OpenAI가 챗GPT(ChatGPT) 사용자의 민감 데이터를 보호하기 위한 새로운 보안 기능 ‘잠금 모드(Lockdown Mode)’를 공개했다. 이 기능은 웹페이지나 업로드 파일 등 외부 콘텐츠에 숨겨진 악의적 지시문이 챗봇의 동작을 조작하는 프롬프트 인젝션(prompt injection) 공격에 대응하기 위해 설계됐다.
잠금 모드를 활성화하면 실시간 웹 검색, 웹에서의 이미지 검색 및 표시, 심층 리서치(deep research), 에이전트 모드 등 여러 기능이 비활성화된다. 이미지 생성 기능은 계속 이용할 수 있다. 다만 OpenAI는 잠금 모드를 켜더라도 챗GPT가 프롬프트 인젝션에 완전히 면역되지는 않는다고 명시했다. 캐시된 웹 콘텐츠나 업로드된 파일 안에 삽입된 악성 지시문이 응답의 동작이나 정확도에 영향을 줄 가능성은 여전히 남아 있다는 설명이다.
OpenAI는 이 기능이 모든 사용자를 위한 것이 아니라고 분명히 선을 그었다. “잠금 모드는 민감한 데이터를 다루는 개인 및 조직이 프롬프트 인젝션과 관련된 데이터 유출 위험으로부터 더 강력한 보호를 원할 때 사용하도록 설계됐다”는 것이 OpenAI의 설명이다. 현재 셀프서브 챗GPT 비즈니스 계정과 일부 개인 계정을 대상으로 단계적으로 배포 중이다.
프롬프트 인젝션은 LLM(대규모 언어 모델) 기반 서비스가 웹 브라우징이나 파일 처리 등 외부 데이터 소스와 연동될수록 실질적 위협으로 부상하고 있다. AI 에이전트가 자율적으로 작업을 수행하는 환경이 확산되면서 악의적 콘텐츠가 에이전트의 동작을 가로채 데이터를 외부로 빼돌리거나 의도치 않은 행동을 유발하는 시나리오가 현실화되고 있다. OpenAI의 잠금 모드 도입은 에이전틱 AI 환경에서의 보안 요구에 대응하는 조치로 평가된다.
저작권자 © STORIUM 무단전재 및 재배포 금지
