대형언어모델(LLM) 기반 에이전트가 정보 검색 질의를 던지고 답을 종합하는 것을 넘어 검색 결과의 품질을 평가하는 심사자 역할까지 맡는 사례가 늘고 있다. 이런 에이전트의 성능을 좌우하는 프롬프트를 개선하는 작업은 사실상 최적화 문제이지만, 실무 현장에서는 무작정 탐색하기보다 어떤 행동이 실패했고 그와 가까운 어떤 행동은 성공했는지, 둘의 차이가 무엇인지 파악해 디버깅하듯 접근하는 경우가 많다. 최근 arXiv에 공개된 논문 ‘Contrastive Reflection for Iterative Prompt Optimization’은 이런 실무 관행을 그대로 반영한 프롬프트 자동 개선 프레임워크 ‘대조적 반성(Contrastive Reflection)’을 제안했다.
이 프레임워크는 질의응답을 수행하는 에이전트가 검색·추론 과정을 노출하고, 채점을 담당하는 별도 에이전트가 세부 항목별 점수와 그 근거를 제시하는 구조에서 출발한다. 이렇게 확보한 구조화된 기록을 바탕으로 오류가 발생한 지점을 중심으로 한 행동 구간을 식별하고, 같은 영역에서 성공한 인접 사례를 함께 제시한 뒤 ‘교사(Teacher) LLM’에 표적화된 프롬프트 수정안을 제안하도록 요청한다. 제안된 수정안은 검증 데이터셋에서 실제로 성능이 향상되고, 필요하면 기존에 맞던 문제를 틀리게 만드는 회귀 여부까지 확인한 경우에만 최종 반영된다. 연구진은 트리 구조 기반의 오류 구간 선택기를 구현체로 사용했지만, 이 논문이 강조하는 핵심 기여는 트리 구조 자체가 아니라 대조적 반성이라는 반복 개선 루프 자체라고 설명했다.
공개 벤치마크인 핫팟QA(HotpotQA)의 검색증강생성(RAG) 기반 질의응답 설정에서 실험한 결과, 트리 기반으로 선택한 대조 사례 하나를 활용한 프롬프트 수정만으로 held-out(검증용으로 별도 분리한 데이터) 정확일치(exact-match) 정확도가 51.4%에서 60.4%로 개선됐다. 반면 실패 사례만 참고하거나 무작위로 성공 사례를 골라 비교하는 변형 방식은 개선 폭이 더 작았을 뿐 아니라 기존에 맞히던 문제를 더 많이 틀리게 만드는 부작용도 나타났다. 연구진은 프롬프트 자체 내용만 바꾸는 단순 비교 실험에서도 이 방법이 기존 프롬프트 최적화 기법인 MIPROv2(59.4%)나 GEPA(57.0%)와 비슷한 수준에 도달했다고 밝혔다.
연구진은 이 결과가 정보 검색 에이전트를 위한 해석 가능하고 검증 중심적인 최적화 루프를 제시한다고 설명했다. 실패와 성공 사례를 나란히 놓고 비교하는 방식은 단순히 실패만 분석하는 기존 접근보다 어떤 프롬프트 수정이 실제로 효과가 있는지 더 명확하게 보여주며, 검증 단계를 거쳐야만 수정안이 채택되도록 한 점은 프롬프트 개선 과정에서 흔히 발생하는 과최적화나 예기치 못한 성능 저하를 방지하는 안전장치 역할을 한다는 것이 연구진의 설명이다.
