대형언어모델(LLM)이 개방형 질문에 놀라울 만큼 획일적인 답변을 내놓는다는 문제가 다시 주목받고 있다. 미국 매체 MIT테크놀로지리뷰는 챗GPT(ChatGPT)나 클로드(Claude), 제미나이(Gemini) 같은 주요 챗봇에 “1부터 10 사이 무작위 숫자를 말해달라”고 물으면 거의 항상 ‘7’이라는 답이 나오는 등, 코딩이나 리서치에는 무해하지만 창의적 발상이 필요한 상황에서는 걸림돌이 되는 반복 패턴이 존재한다고 보도했다.
호주 스타트업 스프링보즈(Springboards)는 이 문제를 겨냥해 자체 개발한 LLM ‘플린트(Flint)’를 선보였다. 스프링보즈 공동창업자 겸 최고경영자(CEO) 핍 빙게먼(Pip Bingemann)은 시연에서 챗GPT와 클로드가 모두 ‘7’을 내놓을 때 플린트는 ‘3.7916’ 같은 이질적인 답을 냈고, 자동차 종류를 물었을 때도 챗GPT와 클로드가 도요타·혼다 계열을 답한 반면 플린트는 포드 F-150을 제시했다고 소개했다. 스프링보즈 공동창업자 겸 최고기술책임자(CTO) 키어런 브라운(Kieran Browne)은 “대부분의 채팅 인터페이스는 마치 개인적인 대화를 나누는 듯한 느낌을 주지만, 실제로는 다른 모든 사람과 거의 같은 답을 받고 있다는 사실을 사람들이 잘 인식하지 못한다”고 지적했다.
이런 획일성은 학계에서도 확인된 바 있다. 지난해 11월 발표돼 신경정보처리시스템학회(NeurIPS)에서 최우수 논문상을 받은 연구 ‘인공 집단사고(Artificial Hivemind)’는 25개 LLM에 “시간에 관한 은유를 써달라”는 질문을 각각 50차례씩 던진 결과, 총 1250개 답변의 상당수가 “시간은 강물이다” 또는 “시간은 직조공이다”류의 표현으로 수렴했다고 밝혔다. 연구진은 이런 현상이 대부분의 LLM이 비슷한 데이터로 비슷한 방식의 훈련을 거치기 때문일 것으로 추정했다. 오픈AI(OpenAI)는 이에 대해 신뢰할 수 있고 일관된 답변을 내도록 훈련하는 과정에서 모델이 확률 높은 익숙한 응답으로 수렴하는 경향이 생기며, 새로움을 지나치게 강조하면 오히려 답변의 신뢰도가 떨어질 수 있다고 설명했다.
스프링보즈는 오픈소스 모델 큐원3(Qwen 3)를 기반으로 플린트를 훈련했다. 온도(temperature)처럼 출력 전반의 무작위성을 일괄적으로 높이는 기존 설정은 모델이 문장 중간에 언어가 바뀌는 등 비일관적인 결과를 낳기 쉬웠다는 것이 스프링보즈의 판단이다. 이에 따라 스프링보즈는 모델이 다양성을 발휘할 수 있는 특정 지점만 골라 무작위성을 높이도록 큐원3를 재훈련했다. 마케팅 회사 언커먼(Uncommon)의 공동창업자 겸 최고전략책임자 막시밀리안 바이글(Maximilian Weigl)은 플린트를 챗GPT·클로드·제미나이와 함께 팀 워크플로에 활용하고 있다면서도, 대부분의 업무에는 평균적인 답변으로 충분하다며 AI 출력에 과도하게 의존하는 것을 경계해야 한다고 덧붙였다.
