기업과 공공기관이 내부에서 만든 AI 에이전트의 위험을 세 단계로 나누는 ‘TrustX Agent Risk Classification Framework(ARC)’가 공개됐다. 범용 AI 위험관리 체계가 에이전트의 행동 권한, 지속 기억, 다른 시스템 접근 같은 특성을 충분히 구분하지 못한다는 판단에서 설계한 실무용 분류 도구다. 연구진은 이 문서를 완성된 표준이 아니라 계속 수정 중인 작업 논문으로 규정했다.
ARC는 자율 에이전트, 코딩 보조, 지식 보조, 워크플로 자동화, 조정·감독, 외부 API·도구를 호출하는 도구 사용 에이전트, 거래·상거래 등 일곱 유형을 대상으로 한다. 먼저 목표·인식·행동과 반복·적응·종료를 확인하는 GPA+IAT 체크리스트로 에이전트성을 구분하고, 기존 문헌에서 가져온 5단계 자율성 분류를 함께 사용한다. 코딩 보조에는 실행 가능한 출력과 시스템 접근을 반영한 별도 확장을 붙였다.
핵심 평가는 자율성, 의사결정 범위, 시간적 결합, 행동 권한, 시스템 도달 범위, 피해 범위, 지속성, 가역성, 통제 권한 등을 포함한 12개 차원이다. 각 차원은 낮음·중간·높음으로 점수를 매긴다. 어느 한 차원이라도 높음 3점을 받으면 전체를 고위험으로 올리는 ‘중요 차원’ 규칙을 써서, 평균값이 특정 고위험 요소를 가리지 못하게 했다.
낮은 위험은 모든 차원이 1이고 평균이 1.5 미만일 때다. 개별 최대 점수가 2이거나 평균이 1.5 이상이면 중간 위험으로 분류하며, 자율성 3~4단계도 경계 사례를 중간으로 끌어올린다. 차원 하나가 3이거나 자율성이 5단계면 고위험이다. 다중 에이전트 시스템은 구성 요소 중 가장 높은 등급을 물려받고, 등급마다 문서화·감사 로그·인간 감독 등 통제 권고를 연결한다.
| 최종 등급 | 판정 기준 | 추가 규칙 |
|---|---|---|
| 낮음 | 모든 차원 1, 평균 1.5 미만 | – |
| 중간 | 최대 2 또는 평균 1.5 이상 | 자율성 3~4단계 |
| 높음 | 차원 하나라도 3 | 자율성 5단계 |
| 다중 에이전트 | 구성 요소 중 최고 등급 상속 | – |
논문에 제시된 평가는 실제 조직 여러 곳에서 등급 일치도나 사고 예측력을 검증한 실험이 아니라 설명용 사례다. 연구진도 세 가지 한계를 적었다. 상세 지침이 있어도 평가자 해석에 따라 점수가 달라질 수 있고, 한 시점의 정적 평가라 운영 중 성능·권한 변화가 자동 반영되지 않으며, 빠르게 늘어나는 에이전트 유형 때문에 기준이 곧 낡을 수 있다.
ARC는 NIST AI RMF, 생성형 AI 프로필, EU AI Act 등 기존 체계를 참고한 2026년 7월 arXiv 프리프린트다. 법적 적합성을 보증하거나 사고 확률을 산출하는 검증 도구는 아니다. 실제 도입 전에는 평가자 간 일치도, 업종별 위험 사건과의 상관, 수명주기 재평가 주기를 별도로 시험해야 한다.
저작권자 © STORIUM 무단전재 및 재배포 금지
