예일대와 UC 어바인 연구진이 대규모 언어모델의 메타인지 연구를 처음으로 포괄 정리했다. 여기서 메타인지는 단순히 답을 다시 읽는 행위가 아니다. 모델이 불확실성·난이도·진행 상태를 감시하고, 그 판단을 바탕으로 계획·전략·연산량·도구 사용을 조절하는 두 과정의 반복 고리로 정의된다.
논문은 심리학의 메타인지 민감도와 보정 개념을 출발점으로 연구를 분류했다. 측정법에는 신호탐지이론의 meta-d′ 계열, 확률·언어화 자신감, 내부 활성 프로브, 과제별 자기예측이 포함된다. 구현 측면에서는 자기비판과 전략 선택, 에이전트의 검색·도구 호출·기억 관리, 다중 에이전트 협업에서 감시 신호를 통제 행동으로 연결하는 방법을 검토했다. 이번 정리는 동료검토 전 공개된 arXiv:2607.11881의 문헌 검토를 바탕으로 한다.
문헌 전반의 결론은 혼합돼 있다. 일부 프롬프트와 피드백 방식은 추론 성능이나 불확실성 표현을 개선하지만, 높은 자신감의 환각과 잘못된 성찰로 오류를 강화하는 사례도 반복된다.
모델 크기·계열·후처리·샘플링 온도·자신감 추출 방식에 따라 결과가 달라져, 한 과제에서의 보정 성능을 범용적인 자기이해로 부르기 어렵다.
이 글은 새 모델을 학습하거나 단일 통합 벤치마크에서 수치를 비교한 실험 논문이 아니라 47쪽 분량의 문헌 검토다. 저자들은 기존 벤치마크가 의학 QA, 편집, 추론 등 제한된 과제에 흩어져 있고 일반 능력과 메타인지 능력을 분리하기 어렵다고 지적한다. 출력 자신감은 RLHF 같은 후처리로 변형될 수 있어 내부 불확실성의 충실한 보고라는 보장도 없다.
메타인지 모듈은 신뢰도를 높일 수 있지만, 시스템이 감시를 회피하거나 목표 달성을 위해 내부 신호를 전략적으로 조절할 위험도 함께 제기된다. 따라서 사람의 메타인지 용어를 모델에 그대로 투사하지 않는 평가 설계가 필요하다는 것이 검토의 경계선이다.
저작권자 © STORIUM 무단전재 및 재배포 금지
