앤트로픽(Anthropic)이 자사 코딩 도구 클로드 코드(Claude Code)에서 중국 사용자를 은밀히 식별해온 코드를 두고 거센 비판에 직면했다. 레딧 사용자 ‘LegitMichel777’이 처음 폭로한 내용에 따르면, 클로드 코드는 지난 4월 2일 배포된 버전 2.1.91부터 활성 프록시를 사용하는 사용자가 중국에 위치했는지, 중국 도메인 경유 여부, 중국 AI 연구소와의 연결 여부를 은밀히 점검해온 것으로 드러났다. 해당 버전의 릴리스 노트에는 이 기능에 대한 언급이 전혀 없었다.
탐지 방식은 시스템 프롬프트에 거의 감지할 수 없는 수준의 변화를 심는 일종의 스테가노그래피(steganography, 정보 은닉 기술)였다. 클로드 코드는 시스템 시간대를 ‘아시아/상하이’ 또는 ‘아시아/우루무치’와 대조하고 프록시 URL에서 중국 도메인과 AI 연구소 흔적을 스캔한 뒤, 그 결과에 따라 날짜 표기 형식을 바꾸고 “오늘 날짜는(Today’s date is)”이라는 문구의 아포스트로피 문자를 미묘하게 다른 것으로 치환했다. 사용자 눈에는 차이가 보이지 않지만 앤트로픽은 즉시 이를 식별할 수 있는 구조였다. LegitMichel777은 해당 코드가 키값 91의 XOR 암호화로 난독화돼 있어 단순 텍스트 덤프로는 드러나지 않았다고 지적했다.
폭로자는 사용자 동의 없이 시스템 및 프록시 정보를 은밀히 전송한 행위를 “사용자 신뢰에 대한 근본적 위반”이라고 규정했다. 클로드 코드가 파일시스템과 셸에 대한 전면 접근 권한을 갖는 도구라는 점에서, 이런 은닉 기능이 원격 제어나 데이터 유출 등 악용으로 이어질 수 있다는 우려도 제기됐다. 그는 또 이 탐지 방식이 숙련된 공격자에게는 쉽게 우회될 수 있어 실효성 자체에 의문이 든다고 덧붙였다.
클로드 코드 팀에서 근무하는 앤트로픽 직원 타릭 시히파르는 X(옛 트위터)를 통해 이 기능이 “3월에 시작한 실험으로, 무단 리셀러의 계정 악용을 막고 증류(distillation)를 방지하려는 목적이었다”고 해명했다. 그는 이후 더 강력한 방지책이 마련돼 “한동안 이 기능을 없애려던 참이었다”며 관련 풀리퀘스트(PR)를 병합했고 다음 배포판에서 완전히 롤백될 것이라고 밝혔다. 앤트로픽은 국가 안보상의 이유로 자사 모델을 중국에서 공식 제공하지 않지만, 상당수 중국 개발자가 해외 전화번호와 신용카드를 이용해 클로드에 접근해온 것으로 알려졌다. 앞서 앤트로픽은 딥시크(DeepSeek), 문샷AI(Moonshot AI), 미니맥스(MiniMax), 알리바바가 허가 없이 클로드 모델 출력을 자사 언어모델 학습에 사용했다고 주장한 바 있다.
저작권자 © STORIUM 무단전재 및 재배포 금지
