LLM, ‘거짓’이라 명시해도 믿는다… ‘부정 무시’ 연구 경고
거짓이라고 분명히 표시된 정보조차 대규모 언어모델이 사실로 받아들인다는 '부정 무시' 연구가 나왔다.
[태그:] AI 안전
안전장치 해제된 AI 모델 1300만 건 다운로드… “오픈소스 무방비 노출”
빅테크 오픈소스 AI 모델의 안전장치를 손쉽게 제거하는 도구가 퍼지며 위험 답변을 내놓는 변형 모델이 대량 유통되고 있다.
거짓이라고 분명히 표시된 정보조차 대규모 언어모델이 사실로 받아들인다는 '부정 무시' 연구가 나왔다.
빅테크 오픈소스 AI 모델의 안전장치를 손쉽게 제거하는 도구가 퍼지며 위험 답변을 내놓는 변형 모델이 대량 유통되고 있다.
