[태그:] AI거버넌스

TrustX ARC는 일곱 유형의 사내 에이전트를 12개 위험 차원과 3단계 등급으로 분류하지만 실증 검증은 아직 제시하지 않았다.

18개 LLM 에이전트 시장 실험에서 중재가 최적화된 트롤 공격에도 정직한 참여자의 양의 효용을 유지했다.

모델 밖의 코드·스키마·검증 규칙에 보장을 맡겨 기업용 언어모델 에이전트의 추적성과 교체 가능성을 높이는 구조다.

LLM이 작성하는 위험 분석의 신뢰성을 위해 분석 도구 자체에 STPA를 적용하고 원칙을 코드 집행 지점과 연결했다.

3만3924판의 다중 에이전트 실험을 담은 arXiv 논문이 배포 규칙 하나만 바꿔도 집단 사망률이 크게 흔들리며, 규칙 문구에 손실 대상을 지목하는 ...

2024~2026년 arXiv 논문 1250편을 분석한 서베이가 AI 자기개선을 '수렴하는 자기정제'와 '열린 재귀적 자기개선'으로 나누고, 성능이 자기평가 신뢰도 계층에 좌우된다고 정리했다.

스스로 계획하고 실행하는 에이전트 AI의 감독 문제를 다룬 arXiv 리뷰 논문이 이 기술을 기존 시스템과 구분되게 하는 특성과 거버넌스 우선순위를 ...

에이전트형 AI를 운영하는 조직에 필요한 새로운 리스크 거버넌스 프레임워크가 arXiv에 공개됐다.

유엔과 국제전기통신연합이 AI 규제 파편화에 대응해 빅테크 최고경영자와 각국 정상급 인사를 한데 모은 'AI for Good' 국제위원회를 출범시켰다.

AI 연구자들이 챗봇의 오작동과 유해 행동을 신고할 수 있는 크라우드소싱 사이트 'FLARE-AI'를 만들었다. 32개 기관 소속 전문가 49명이 참여했으며 미국 ...

크래프톤이 게임 산업 특성을 반영한 ESG 프레임워크를 처음 공개했다. 지속가능한 인프라·신뢰할 수 있는 퍼블리싱·책임 있는 AI 세 축을 중심으로 경영 ...

AI 시스템이 손실의 인과 사슬에 포함된 경우 보험 청구를 위한 상태 재구성 방법론 CER 프레임워크를 제안한 논문이 발표됐다. 프롬프트 인젝션, ...