시스코 탈로스는 2026년 8월 4일 공격자 단말에서 확보한 프롬프트 기록을 분석해 생성형 AI가 실제 사이버 범죄에 쓰이는 방식을 공개했다. 조사 대상 기록은 Claude Code, Codex, Cursor, Gemini 같은 클라우드 기반 도구가 남긴 자료다. 분석 결과 AI는 악성 소프트웨어 개발, 범죄 운영의 대규모화, 취약점 연구라는 세 갈래에 활용됐다. 이는 AI가 새로운 침투 경로를 스스로 만들었다는 뜻보다, 공격자가 이미 하던 일을 더 빠르고 넓게 수행하도록 도왔다는 의미에 가깝다.
안전장치인 가드레일의 효과도 제한적이었다. 공격자들은 복잡한 암호화나 정교한 탈옥 기법 없이 장비 소유권을 주장하거나 모의해킹 대회와 버그바운티 작업이라고 설명해 모델의 협조를 얻었다. 위험한 작업을 여러 세션과 파일로 나누거나 중립적인 동사로 표현한 사례도 확인됐다. 일부 모델은 분산서비스거부 공격 도구에 뒤늦게 제동을 걸었지만 기본 기능이 이미 만들어진 뒤였고, 거부가 발생하면 검열이 없는 다른 모델로 옮겨 간 사례도 있었다.
관찰된 사례는 공격자의 기존 역량에 따라 결과가 크게 달라졌다. 초보자는 제한적인 악성 기능을 만들었지만 오류를 고치고 기능을 확장하는 데 어려움을 겪었다. 반면 숙련자는 공개된 취약점 연구를 고속 스캐너와 자격증명 수집 절차로 연결하거나 대량 메일 운영 체계를 구축했다. 탈로스는 안드로이드 TV 약 2천 대를 통제한 것으로 보이는 분산서비스거부 도구 사례도 제시했다. 다만 프롬프트 기록은 관찰된 개발 과정의 증거이며, 만들어진 모든 기능이 실제 공격에 사용됐다고 단정할 근거는 아니다.
| 활용 영역 | 확인된 방식 | 검증 범위 |
|---|---|---|
| 악성 개발 | 도구 작성과 문제 해결 | 프롬프트와 산출물 |
| 범죄 운영 | 대량 메일과 시스템 관리 | 관찰된 작업 기록 |
| 취약점 탐색 | 공개 연구의 자동화 | 실제 사용은 별도 판단 |
기업 보안팀이 얻을 실무적 교훈은 AI 사용 여부를 맞히는 데 머물지 말아야 한다는 점이다. 계정과 단말, 개발 도구에서 발생하는 행위를 기록하고, 취약점 공개 뒤 패치 우선순위를 빠르게 정하며, 사람이 중요한 경보와 대응을 최종 검토하는 체계가 필요하다. AI 에이전트를 방어 업무에 도입할 때도 권한을 최소화하고 실행 기록을 남겨야 한다. 이번 분석은 가드레일만으로 악용을 막기 어렵고, 기존의 접근통제와 패치, 탐지, 사람의 승인 절차를 함께 강화해야 한다는 한계를 보여준다.
저작권자 © STORIUM 무단전재 및 재배포 금지
