오픈AI가 7월 6일 저지연 음성 에이전트를 위한 새 모델 두 종 ‘GPT-리얼타임-2.1(gpt-realtime-2.1)’과 경량화 버전 ‘GPT-리얼타임-2.1-미니(gpt-realtime-2.1-mini)’를 API에 공개했다. 두 모델 모두 오디오 입출력을 단일 모델이 처리해 별도의 음성-텍스트, 텍스트-음성 시스템을 잇는 체인 구조 없이도 자연스러운 대화형 음성 상호작용을 구현할 수 있다.
이번 업데이트의 핵심은 지연시간 개선이다. 오픈AI는 향상된 캐싱 기법을 적용해 실시간 음성 모델 전반의 p95 지연시간을 최소 25% 줄였다고 밝혔다. p95 지연시간은 사용자가 실제로 느리다고 체감하는 상위 5% 응답시간을 가리키는 지표로, 음성 대화의 체감 품질과 직결된다. 상위 모델인 GPT-리얼타임-2.1은 알파벳과 숫자 인식 정확도를 높이고 침묵·소음 처리, 대화 끼어들기(interruption) 대응력을 개선했으며 추론 강도를 조절할 수 있는 음성-음성 지원과 도구 사용, 지시 따르기 기능을 갖췄다.
미니 버전은 이전에 추론 기능이 없었던 기존 GPT-리얼타임-미니와 달리 처음으로 추론 능력을 갖춘 실시간 음성 모델로, ‘최소·낮음·보통·높음·매우높음’ 5단계로 추론 노력을 조절할 수 있으며 기본값은 ‘낮음’이다. 함수 호출을 포함한 도구 사용도 지원해 구글이 나노 바나나 2 라이트와 제미나이 옴니 플래시로 이미지·영상 생성 API를 강화한 것처럼, 오픈AI 역시 실시간 멀티모달 API 경쟁에 힘을 싣는 모습이다.
가격은 100만 토큰 기준 GPT-리얼타임-2.1이 텍스트 입력 4달러·오디오 출력 64달러, 미니 버전은 텍스트 입력 0.6달러·오디오 출력 20달러로 책정됐다. 오디오 출력 가격은 두 모델 간 약 3배 차이가 난다. 캐시된 오디오 입력은 신선한 오디오 입력 대비 대폭 할인된 요금이 적용돼, 예컨대 미니 모델의 신규 오디오 입력이 100만 토큰당 10달러인 반면 캐시된 입력은 0.3달러까지 낮아진다. 미니 모델은 기존 요금 체계를 유지하면서 추론 기능만 추가해 비용 부담 없이 성능을 끌어올렸다는 평가다.
