인공지능(AI) 오류 차단 전문 스타트업 프로버블리(Probably)가 벤처캐피털 안드레센 호로위츠(Andreessen Horowitz, a16z)로부터 900만 달러 규모의 시드 투자를 유치했다. 이 회사는 LLM(대규모 언어 모델)이 빈번하게 생성하는 환각(hallucination) 오류를 사전에 차단해 결정론적 시스템 수준인 99.99%의 정확도를 달성하는 것을 목표로 하고 있다.
프로버블리의 첫 번째 제품은 복잡한 데이터셋에서 빠른 답변을 제공하는 데이터 사이언스 도구다. 창업자 피터 엘리아스(Peter Elias)는 이 시스템을 ‘데이터 사이언스 메크 수트(mech suit)’라고 표현했다. LLM이 생성한 초안 답변이 결정론적 검증기를 통과하지 못하면 자동으로 반려되는 구조다. 핵심은 LLM을 검증기 기준에 맞게 훈련시킴으로써 정확도와 속도를 동시에 높이는 방식이다. 또한 모든 답변에는 출처 인용과 도출 과정을 추적할 수 있는 감사 기록이 함께 제공된다.
이 설계 방식은 모델 크기 절감이라는 부수 효과도 낳는다. 엘리아스에 따르면 현재 프로버블리의 데이터 사이언스 도구는 최전선 모델보다 네 등급 낮은 소형 모델로 구동된다. 데이터센터가 아닌 일반 데스크톱 환경에서도 실행 가능한 수준이다. 이는 기업들의 AI 예산 부담이 커지고 있는 시점에서 주목받는 장점이다. 엘리아스는 같은 접근 방식을 회계나 의료 서비스 등 정밀도가 요구되는 분야로 확장할 계획이라고 밝혔다.
프로버블리는 대형 AI 연구소들이 이 방향에 적극적으로 투자하지 않는다는 점을 기회로 본다. 엘리아스는 모델 오류를 반복 수정할수록 수익이 늘어나는 대형 연구소의 사업 구조가 오류 근본 차단에 소극적인 유인을 만든다고 지적했다. AI 기술의 정확성과 신뢰성을 높이는 하네스 엔지니어링이 독립적인 시장을 형성할 수 있다는 전망도 나온다.
