현대 AI 에이전트의 행동을 정의하는 스킬 파일, 메모리 파일, 행동 설정 파일 등 텍스트 기반 구성 요소가 시간이 지남에 따라 인간 또는 에이전트 자신에 의해 수정되면서 미래 행동 방향이 달라질 수 있다는 점에 착안한 새로운 에이전트 특성 측정 방법론이 arXiv에 제시됐다. 연구팀은 에이전트의 특성(trait)을 텍스트 임베딩 모델의 임베딩 공간 상의 방향으로 정의하는 방법론과 프레임워크를 발표했다.
제안된 방법론의 핵심은 스킬 파일의 ‘수정 전·후’ 차이를 레이블링한 데이터로 선형 모델을 훈련해 특성 벡터를 학습한 다음, 임의의 스킬 파일 편집물을 해당 벡터에 투영해 점수화하는 방식이다. 연구팀은 민감한 데이터를 탐색하려는 성향이라는 특성을 대상으로 68쌍의 레이블된 스킬 파일 수정 데이터를 기반으로 검증을 수행했다. 리브-원-아웃 교차 검증에서 부호 분류 정확도 91.2%, 스피어먼 순위 상관계수 0.82를 달성했다.
연구팀은 이 특성 평가 기능을 에이전트 간 프로토콜로 확장해, 신뢰할 수 있는 중개자를 통해 한 에이전트가 다른 에이전트의 스킬 파일 업데이트를 평가할 수 있는 구조도 구축했다. 이는 AI 에이전트가 자율적으로 자신의 설정 파일을 변경하는 시나리오에서 행동 안전성을 모니터링하는 실용적 접근법이다. 에이전트 자율성이 높아질수록 내부 상태 변화를 외부에서 감지·검증하는 수단의 필요성이 커진다는 점에서, 이번 연구는 AI 안전 분야의 기술적 기반을 보강하는 성과로 평가된다.
스킬 파일과 같은 텍스트 구성 요소가 에이전트의 실질적 행동 결정자로 기능하는 현대 에이전트 아키텍처에서, 이 측정 프레임워크는 행동 드리프트를 사전에 감지하고 에이전트 간 신뢰를 정량적으로 검증하는 도구로 활용될 수 있다. 연구팀은 이 접근이 에이전트 행동 변화 추적의 표준적 방법론으로 자리잡을 수 있을 것으로 기대하고 있다.
저작권자 © STORIUM 무단전재 및 재배포 금지
