AI 스타트업 Pramaana Labs가 Khosla Ventures 주도의 2700만 달러 규모 시드 라운드를 마감했다. Accel, BoldCap, Nexus Venture Partners, Premji Invest, Unbound도 이번 투자에 참여했다. 회사는 대규모 언어 모델(LLM)의 자연어 추론 능력을 형식 검증(formal verification) 시스템과 결합해 AI 출력의 수학적 신뢰도를 높이는 기술을 개발하고 있다.
형식 검증이란 시스템이 올바르게 작동한다는 수학적 확실성을 만들어내는 방법론이다. Pramaana는 수학 증명 검증에 사용되는 오픈소스 프로그래밍 언어 LEAN을 기반으로 이 기술을 AI에 적용하고 있다. LLM이 자연어 질의와 복잡한 추론을 처리하는 동안, 검증 계층이 출력 결과의 수학적 정확성을 보장하는 구조다. CEO 겸 공동창업자 란잔 라자고팔란은 규칙 기반 도메인에서 이 접근법이 효과적이라며, “명문화된 버전이 있으면 그 위의 추론은 결정론적으로 바뀐다”고 밝혔다.
Pramaana의 주력 시장은 오류가 심각한 결과로 이어지는 고위험 분야다. 법률, 신약 개발, 세무 처리가 현재 집중하는 영역이다. 세금 분야에서는 전 미국 국세청(IRS) 청장 대니 워펠이 전문가 감독 역할로 참여하고 있다. 회사는 각 도메인별로 전문가 감독 아래 검증 시스템을 구축하고, 이를 실행 가능한 코드와 명확한 규칙으로 정형화하는 방식을 취한다. AI 할루시네이션이나 논리적 오류가 치명적인 결과를 낳을 수 있는 분야에서, 형식 검증을 통해 출력 신뢰성을 수학적으로 담보하겠다는 전략이다.
Pramaana Labs의 투자 유치는 AI 신뢰성과 검증 가능성에 대한 관심이 높아지는 흐름 속에서 이뤄졌다. 특히 의료·금융·법률처럼 규제가 엄격한 산업에서 AI를 도입하려는 기업들의 수요가 늘면서, 단순 성능 향상을 넘어 검증 가능한 정확성을 제공하는 접근법이 주목받고 있다. 형식 검증 기술은 소프트웨어 안전성 검증 분야에서 수십 년간 쓰여온 방법론으로, 이를 AI 출력 검증에 접목하는 시도는 업계에서 새로운 방향으로 떠오르고 있다.
