아마존 내부 엔지니어링 팀이 앤트로픽의 클로드(Claude) 모델을 증류(distillation)해 더 작고 저렴한 내부용 모델을 구축하고 있다고 IT 전문 매체 더 인포메이션(The Information)이 보도했다. 모델 증류는 대형 모델의 출력을 학습 데이터로 삼아 소형 모델을 훈련하는 기법이다. 이 시도의 배경에는 내년부터 적용될 토큰 기반 과금 체계 전환이 있다. 현재 컴퓨팅 시간 단위로 청구되는 방식이 처리 토큰 수 기준으로 바뀌면 비용이 크게 뛸 수 있다는 우려가 작용한 것으로 알려졌다.
사안에 정통한 관계자에 따르면 아마존은 계약상 앤트로픽 모델을 이러한 목적으로 사용할 권한을 갖고 있으며, 이는 구글 제미나이(Gemini)와 관련한 애플의 계약 조건과 유사한 구조다. 다만 아마존이 자사 클라우드 플랫폼인 Amazon Bedrock에서 제공하는 증류 서비스에는 현재 앤트로픽 모델이 포함돼 있지 않다. Bedrock의 증류 지원 모델은 아마존 자체 Nova 시리즈와 메타의 라마(Llama)에 한정돼 있어, 이번 내부 시도는 공식 서비스 외부에서 별도로 진행되고 있는 셈이다.
아마존 대변인은 파트너십 확대 이후의 변화가 비용을 올리지 않을 것이라고 반박했고, 앤트로픽 측도 자사 모델이 성능 대비 가격 경쟁력이 있다는 입장을 밝혔다. 한편 아마존은 앤트로픽 외에도 오픈AI와 협력을 확대하고 있다. 보도에 따르면 아마존은 올해 앤트로픽에 최대 250억 달러, 오픈AI에 최대 500억 달러를 투자한 것으로 전해진다. 내부 증류 시도는 특정 AI 파트너에 대한 의존도를 줄이려는 아마존의 전략적 행보로도 해석된다.
