[태그:] AI신뢰성

과기정통부가 전문가·시민 참여로 진행한 2025년 AI 에이전트 기술영향평가를 공개했다. 책임체계와 개인정보, 교육, 안전·신뢰 등 6개 과제를 담았다.

ConceptSMILE은 네 공개 데이터셋의 망막 이미지 40장에 총 2천개 교란 표본을 만들어 개념 설명의 충실도·안정성을 독립적으로 점검했다.

씽크포비엘이 경찰청과 손잡고 치안 분야 AI 영향평가·위험관리 표준 모델 수립에 나섰다.

폴란드어 모델 비엘릭을 분석한 arXiv 논문이 답을 내놓기 전 내부 활성화만으로 낯선 개체와 지어낸 개체를 구별해내지만, 개체 친숙도와 답의 사실 ...

AI 솔루션 기업 에이아이웍스(AIWORKX)가 과기정통부의 AI 기본법 시행령 개정안에 의견서를 제출했다. 공공 고영향 AI에 대한 신뢰성 평가 의무화와 취약계층 보호 ...

AI 과학자 시스템의 연구 추론 과정을 외부에서 검사 가능하도록 외재화하는 Xcientist 연구 하네스가 제안됐다. 주장 이탈(claim drift) 문제를 식별하고, 실험 ...

Pramaana Labs가 Khosla Ventures 주도의 2700만 달러 시드 라운드를 마감했다. LLM과 수학적 검증 시스템을 결합해 법률·세금·신약 개발 분야의 AI 신뢰성을 ...

WordPress VIP 조사에서 미국 소비자 60%가 브랜드가 AI를 전면에 내세우는 메시지에 거부감을 느낀다고 답했다. 86%는 AI 답변을 완전히 신뢰하지 않으며 ...

arXiv에 발표된 논문이 반사실적 설명 개념을 바탕으로 좋은 설명의 정의를 제안하고, LLM 출력에 대한 설명이 왜 어려운지를 분석했다.

KPMG가 AI 에이전트 활용 사례를 소개한 보고서가 AI 환각으로 가득 찼다는 사실이 드러났다. 45건의 인용 중 실제 출처를 정확히 가리킨 ...

국내 AI 신뢰성 기업 씽크포비엘이 ISO/IEC 24029 표준 분야 강자인 프랑스 누말리스(Numalis)와 손잡고 항공·국방 등 고위험 분야 AI 견고성 인증 ...

텍사스 홀덤 포커 시뮬레이터를 통제 환경으로 활용한 연구에서 LLM 에이전트가 추론 과정에서 도달한 결론과 실제 행동 사이에 체계적인 충실도 격차가 ...