네이버가 대화형 AI 검색 서비스 ‘AI탭’에 차세대 기술을 적용해 환각(할루시네이션) 현상을 줄이고 운영 비용도 크게 낮췄다고 밝혔다. 네이버는 지난 2일 서울 강남 D2SF에서 기자간담회를 열고 프로덕트 네이티브 LLM(대규모 언어모델), 하네스 엔지니어링, 멀티모달 기술 등 AI탭에 적용된 3대 핵심 기술을 발표했다. 범용 초대형 모델 경쟁에 뛰어들기보다 검색·쇼핑·예약 등 실제 서비스 환경에서 빠르고 효율적으로 작동하는 데 집중해, 글로벌 빅테크의 국내 검색 시장 공세에 대응하겠다는 전략이다.
‘프로덕트 네이티브 LLM’은 네이버의 자체 모델 하이퍼클로바X를 기반으로 AI 검색에 맞게 개발한 경량 모델이다. 기존 트랜스포머 구조는 문장 속 단어 관계를 모두 따지는 방식이라 입력이 길어질수록 연산량이 제곱으로 늘어나 응답 시간이 급격히 길어지는 한계가 있었는데, 이 모델은 질문 길이에 비례해서만 계산량이 늘도록 구조를 바꿔 긴 문서를 처리해도 응답 지연이 크게 늘지 않는다고 네이버는 설명했다. 여기에 질문이 모호할 때 임의로 답을 지어내는 대신 되물어 의도를 먼저 확인하는 ‘명료성 강화 학습’을 적용해, 하이퍼클로바X 대비 환각 현상을 30%포인트(p) 줄였다고 밝혔다.
이 모델을 실제 서비스에서 뒷받침하는 것이 ‘하네스 엔지니어링’이다. 네이버는 AI 검색을 쇼핑·예약·결제까지 하나로 연결하는 원스톱 버티컬 서비스로 발전시키려 하는데, 하네스 엔지니어링은 AI가 부적절한 답변을 내놓지 않도록 제어하면서 사용자 의도와 긴 대화 맥락을 파악해 검색부터 서비스 실행까지 이어지도록 하는 역할을 맡는다. 네이버는 또 하나의 거대 모델이 모든 작업을 처리하는 대신 역할별로 특화된 소규모 언어모델(SLM)을 조합하는 ‘분업형 SLM’ 구조를 채택해, 장비 운영 비용을 최대 3분의 1 수준으로 낮추고 응답 속도는 2배 이상 개선했다고 설명했다.
이미지 검색 기능인 스마트렌즈를 중심으로 한 멀티모달 기술도 새로 고도화됐다. AI탭 출시 이후 검색 점유율이 최고 81%까지 오른 것으로 나타난 바 있는데, 네이버는 여기에 더해 올해 새로운 멀티모달 LLM ‘뮤코(MuCo)’를 선보였다. 뮤코는 대화 초반에 이미지를 한 번만 처리하고도 이어지는 질문의 맥락을 정교하게 파악하는 것이 특징으로, 질문이 이어질 때마다 이미지를 매번 새로 연산해야 했던 기존 멀티모달의 속도·비용 문제를 해소했다는 설명이다. 네이버는 이를 위해 3,500만 규모의 멀티모달 데이터셋을 구축했으며, 주요 벤치마크에서 경쟁 모델을 웃도는 성능을 기록했다고 밝혔다.
네이버클라우드 이기창 하이퍼스케일 AI모델 이사는 “AI탭에 적용된 모델을 통해 사용자에게는 더 빠르고 안정적인 서비스를 제공하고, 동일한 GPU 자원으로 더 많은 요청을 처리해 운영 비용도 크게 절감할 수 있다”며 “정확하면서도 가볍고 효율적인 모델을 지속적으로 만들어갈 계획”이라고 말했다.
저작권자 © STORIUM 무단전재 및 재배포 금지
