CodeTracer 연구진이 코드 언어모델이 만든 악성 자동완성을 원인이 된 백도어 미세조정 표본까지 추적하는 사후 포렌식 프레임워크를 공개했다. 논문은 COLM 2026 게재 논문으로 arXiv에도 공개됐다. 배포 중 신고된 위험한 완성과 미세조정 말뭉치만 사용하며, 공격자의 전략이나 오염 표본 수를 안다는 가정은 두지 않는다.
첫 단계에서는 문제 출력에서 취약점 유형, 정규화된 공격 형태, 보안상 의미, 동등한 변형을 담은 구조화된 행동 지문을 만든다. 다음으로 원시 코드 조각의 의미 유사도를 이용해 전체 말뭉치에서 후보를 좁힌다. 마지막 단계에서는 LLM 기반 추론으로 위험한 논리와 후보 학습 표본의 관계를 판정한다. 검색과 귀속을 나눠 8만개 규모 후보 전체를 한꺼번에 추론하는 비용을 줄였다.
평가는 jinja2 등 대표 취약점 3종, SIMPLE·COVERT·TROJAN·BadCode 등을 포함한 백도어 공격 10종과 경쟁 기준선 16개를 대상으로 했다. 연구진은 포렌식 정확도와 낮은 오식별률, 적응형 공격에 대한 강건성이 일관됐다고 보고한다. 이는 백도어를 사전에 막는 탐지기가 아니라 사고 뒤 조사 범위를 줄이는 도구의 성능이다.
논문 부록은 오염 표본 수와 트리거 종류를 바꾼 실험도 제시한다. 그러나 결과는 연구진이 구성한 코드·공격 조건에 한정되며, 비공개 기업 말뭉치나 실제 공급망 사고에서 독립적으로 재현된 결과는 아니다. 포렌식에 쓰이는 LLM이 비슷한 정상 코드를 잘못 연결할 가능성도 남는다.
실무에서 귀속 결과만으로 학습 자료를 삭제하거나 개발자 책임을 확정해서는 안 된다. 사람이 코드 의미, 저장소 계보, 데이터 변경 이력을 함께 검토해야 한다. 적용 조직은 원본 미세조정 자료와 버전 기록을 보존해야 하며, 다른 언어·모델·공격자가 CodeTracer의 지문 생성을 겨냥할 때도 성능이 유지되는지 추가 검증이 필요하다.
저작권자 © STORIUM 무단전재 및 재배포 금지
