기업의 언어모델 애플리케이션은 대개 프롬프트와 검색 문맥에 행동 규칙을 담은 시제품으로 시작한다. 하지만 제품이 되면 허용된 출처의 경계, 올바른 기업·개체로의 라우팅, 답변 형식, 실행 기록 재현 같은 요구가 붙는다. 연구진은 이런 보장을 모델의 지시문에 계속 덧붙이는 대신 코드와 명세로 옮기는 ‘하네스 엔지니어링’을 제안했다. 언어모델은 교체 가능한 조합 계층으로 두고, 결정적 행동은 코드·매니페스트·스키마·검증 산출물이 책임지는 구조다.
연구는 한국의 기업 집단과 상장사 공개 데이터를 바탕으로 하네스를 구현했다. 출처 근거, 개체 라우팅, 추적 기록, 출력 위생, 추천 표현에 관한 계약을 고정된 검증 시나리오에서 확인하고, 일부러 계약을 깨뜨리는 결함 주입으로 검증기가 오류를 잡는지도 살폈다. 여러 호스팅 모델로 조합 계층을 바꿔도 하네스가 강제하는 검사는 유지됐다. 모델이 만든 부분에서 발생한 실패는 기록되고 차단됐다. 프롬프트 지시만 둔 조건에서는 추천 언어 위반과 내부 추적 정보 노출이 사용자에게 전달될 수 있었고, 코드가 소유한 규칙은 이를 막았다.
별도 외부 가드레일도 위반을 차단할 수 있지만 정상 요청까지 과도하게 거절해 효용을 낮출 수 있다는 비교도 제시한다. 핵심은 안전 규칙을 자연어 희망사항이 아니라 테스트 가능한 소프트웨어 계약으로 다루는 것이다. 이 접근은 모델 교체, 프롬프트 수정, 검색원 갱신이 잦은 환경에서 특히 유용하다. 다만 어떤 행동을 결정적으로 고정하고 어떤 판단을 모델에 남길지 경계를 잘못 정하면 유연성이 떨어질 수 있다. 기업용 에이전트 운영팀에는 프롬프트 관리보다 버전 관리되는 출처·통제·검증 산출물이 장기적인 신뢰 기반이라는 메시지를 준다.
원문: arXiv 2607.08028
저작권자 © STORIUM 무단전재 및 재배포 금지
