University of Bristol의 Nicola Webb와 Edmund R. Hunt가 고위험 인간·로봇 팀에서 신뢰를 임무 전·중·후에 관리하는 개념적 운영 틀을 제안했다. 논문은 신뢰를 사고 뒤 높이는 데만 집중하지 않는다. 과신 가능성이 있으면 낮추고, 로봇의 자율성을 줄여 사람이 더 많은 통제권을 맡게 함으로써 임무에 필요한 신뢰 수준 자체를 조정하는 ‘trust satisficing’을 다룬다. 2026년 7월 15일 arXiv에 등록됐으며, PDF에는 Emerald Publishing 편집서 AI in Teams에 실린 ‘peer reviewed version’이라고 명시돼 있다.
적용 범위는 재난 대응에 한정되지 않고 응급서비스, 수색구조, 국방처럼 상황이 빠르게 바뀌고 판단 결과가 큰 환경을 포함한다. 틀은 세 단계다. 임무 전에는 초기 신뢰 설문과 trust priming으로 기대치를 보정하고, CONOPS에 자율성 수준·감독 범위·통제권 이양 조건과 책임을 담는다. 임무 중에는 행동·심리생리 대리 지표로 신뢰 변화를 추정하고 필요하면 신뢰를 구축·수리·완화하거나 자율성을 낮춘다. 임무 후에는 로그·설문·인터뷰로 모델을 다시 보정하고 실패 원인과 대안을 검토한다. 다만 완성된 시스템의 현장 성능을 보고한 실증 논문이 아니라 기존 문헌과 선행 실험을 엮은 개념적 프레임워크다.
| 단계 | 주요 작업 | 검증 상태 |
|---|---|---|
| 임무 전 | 초기 신뢰 설문, trust priming, CONOPS | 개념적 제안 |
| 임무 중 | 대리 지표 측정, 모델링, 행동·자율성 조정 | 전체 체계 현장 검증 없음 |
| 임무 후 | 모델 재보정, 반사실 분석, 운용 원칙 개선 | 개념적 제안 |
| 2024년 선행 실험 | 22명, 사람 1명+로봇 2대, 약 200㎡ | 상관관계·소표본 |
자료: STORIUM 정리
가변 자율성은 로봇이 목표 추적을 계속할지 민간인 대피를 우선할지처럼 가치판단의 결과가 큰 상황에서 사람에게 결정을 넘기는 장치로 제시된다. 팀 성과, 개입 빈도와 이동 동기화 같은 행동 지표, 시선·EEG·ECG 같은 심리생리 지표는 후보일 뿐 이 논문에서 모두 구현하거나 검증한 것은 아니다. 근거 사례로 인용한 Webb et al.의 2024년 선행 실험에는 22명이 참여했다. 참가자는 사람 1명과 로봇 2대로 팀을 꾸려 약 200㎡ 환경에서 과제를 수행했고, 임무 전후 신뢰 설문과 초음파 추적을 사용했다. 신뢰 변화와 가장 많이 사용한 로봇과의 움직임 동기화 사이에서 상관관계가 관찰됐지만, 의사소통 중단이 신뢰를 손상하고 이후 협응에 영향을 줬다는 경로는 저자들의 가설적 해석이다.
저자들은 움직임 동기화가 명백한 사고 전에 신뢰 저하를 포착하는 잠재적 조기 경보 지표가 될 수 있다고 제안한다. 아직 필요한 검증은 많다. 22명 실험은 소표본 선행연구이고 핵심 결과는 상관관계다. 설문은 자기보고 편향이 있으며 EEG·ECG·시선 추적은 장비와 현장 운용 제약을 동반한다. 능동적 신뢰 관리의 폐루프 전체를 실제 고위험 임무에 구현한 평가도 제시되지 않았다.
저작권자 © STORIUM 무단전재 및 재배포 금지
