AI에 코딩을 맡기는 이른바 ‘바이브 코딩’을 둘러싼 논란이 한 사건으로 정점에 달했다. 한 개발자가 자신의 오픈소스 자바 테스트 도구에 숨겨진 명령을 추가해, AI 코딩 에이전트가 수행하는 작업을 망가뜨리도록 한 사실이 드러난 것이다. 추가된 것은 프롬프트 인젝션으로, 거대언어모델이 정당한 사용자 지시와 악의적 제3자의 지시를 구분하지 못하는 약점을 노린 AI 공격 기법이다. 취약한 AI 코딩 에이전트는 이 도구가 만든 작업 결과물을 삭제하게 됐다.
문서화되지 않은 이 변경에는 명령과 그 결과를 화면에서 감추는 코드까지 포함됐다. 한 자바 개발자가 수요일에 이 프롬프트 인젝션을 발견하고 문제를 제기했다. 그는 선택된 문자열이 에이전트에게 테스트와 코드를 삭제하라고 지시하는데, 아무런 단서도, 옵트아웃도, 사용자에게 먼저 경고하라는 안내도 없는 최대한 파괴적인 명령이라고 지적했다. 견고함이 떨어지는 에이전트가 실제 소비자 기기에서 이를 따랐다면 불편한 수준에서 심각한 수준까지 피해가 발생했을 수 있다는 것이다.
발견자는 방어적 의도 자체를 문제 삼는 것이 아니라고 선을 그었다. 다만 이 탐침의 형태가 효과 면에서 공격적이며, 그 비용을 떠안는 쪽은 아무런 이해관계가 없는 에이전트가 아니라 그 지시를 따랐을 때 작업물이 파괴되는 하류의 인간 사용자라는 점이 우려라고 말했다. 이에 대해 도구 제작자는 배포 노트를 갱신해, 에이전트가 도구를 사용하지 않도록 런타임에 특정 문구를 앞에 붙이되 사람 독자의 읽기 경험을 해치지 않도록 터미널에서는 이스케이프 시퀀스로 그 줄을 제거하는 방식으로 바꿨다고 설명했다.
이 발견에 대한 반응은 싸늘했다. 한 토론 참가자는 이 조치를 ‘유치하다’고 평했고, 다른 이는 일부 관할권에서의 합법성에 의문을 제기했다. 제작자는 여러 곳에서 위협을 받고 있어 변호사와 상담하기 전까지는 더 언급하지 않기로 했다고 이메일로 밝혔다. 그는 앞서 발표한 글에서 막대한 에너지 소비, 전자 폐기물, 허위 정보 확산, 지식재산권의 모호한 처리 등 AI의 여러 부정적 측면을 비판한 바 있다. 한 전직 오픈소스 개발자는 사용자를 ‘넌지시 유도’하려는 유지보수자에게 공감한다면서도, 다른 사람의 작업을 파괴하는 명령을 코드에 심는 것은 도를 넘었다는 것이 중론이라고 짚었다.
한국 독자와 업계 관점에서 이 사건은 AI 코딩 에이전트 시대의 공급망 보안과 신뢰 문제를 정면으로 드러낸다. 오픈소스 의존도가 높은 국내 개발 환경에서, 외부 패키지에 숨겨진 프롬프트 인젝션이 AI 에이전트를 통해 실제 데이터 삭제로 이어질 수 있다는 점은 결코 남의 일이 아니다. AI 에이전트에 코드 실행 권한을 부여할 때의 안전장치, 의존성 검증 체계, 그리고 에이전트가 신뢰할 수 없는 지시를 분별하는 능력 강화가 시급한 과제로 떠올랐다.
