[태그:] AI안전

서울시설공단이 AI 기반 인파 관리·도로 돌발상황 감지·산불 감시 시스템을 올해부터 본격 가동한다.

구글 딥마인드와 슈미트 사이언스 등 5개 기관이 연합해 다중 에이전트 AI 안전 연구자들을 위한 최대 1천만 달러 규모의 연구 공모를 ...

앤트로픽 CEO 다리오 아모데이가 프론티어 AI 규제 프레임워크와 고용 대책 프레임워크를 담은 장문의 정책 에세이를 발표해 의무적 제3자 감사와 단계적 ...

앤트로픽이 경쟁 AI 모델 학습에 클로드를 사용하는 연구자의 성능을 몰래 저하시키려던 계획을 연구 커뮤니티의 강한 반발로 철회했다.

앤트로픽 다리오 아모데이 CEO가 장문의 에세이를 통해 AI에 항공기·의약품 수준의 강제적 안전 기준을 도입해야 한다고 주장했다. 빅테크가 규제 완화를 요구하는 ...

AI 어시스턴트의 개인화 기능이 오히려 모델의 정확도를 떨어뜨릴 수 있다는 연구 결과가 나왔다. AI 기업 Writer의 연구팀은 2026년 6월 10일 ...

독일 연방 총리가 의장을 맡는 국가안보위원회가 AI 안전 연구소 설립을 결정했다. 이 기관은 최신 AI 모델의 역량과 위험을 분석하고, 해외 ...

앤트로픽(Anthropic)이 클로드 페이블(Claude Fable)을 공개하자 사이버보안 연구자들 사이에서 안전장치 설계를 둘러싼 비판이 잇따르고 있다. 페이블은 악성코드 개발이나 소프트웨어 침해 등에 ...

전 xAI 엔지니어 데빈 킴이 그록 안전 문제를 내부에서 제기했다가 해고됐다며 캘리포니아 법원에 소송을 제기했다.

여러 AI 에이전트가 협력할 때 발생하는 정렬 이탈을 실시간으로 탐지하는 중재자 에이전트 설계 연구가 arXiv에 공개됐다.

딥페이크 악용, 챗봇 의존, AI 전쟁 활용, 반AI 저항 운동, 과학 연구 혁신까지 AI가 2026년 중반 현실에 미치는 영향을 짚는다.

오픈AI가 AGI 기술을 소수가 아닌 전 세계 모든 사람이 누릴 수 있어야 한다는 원칙 아래, 권력 분산·경제 가속·개인 AGI 제공을 ...