인공지능(AI) 훈련 스타트업 프라임 인텔렉트(Prime Intellect)가 유력 투자자들로부터 1억 3,000만 달러를 유치했다. 이번 라운드에는 엔비디아의 벤처 부문 엔벤처스(NVentures)를 비롯해 인텔 캐피털, 델 테크놀로지스 캐피털이 참여했고, 클라우드플레어 최고경영자 매튜 프린스 등 십수 명의 투자자가 합류했다. 프라임 인텔렉트는 화요일 발표에서 이번 투자로 기업가치가 10억 달러로 평가됐다고 밝혔다.
개발자들은 대개 AI 모델을 처음부터 훈련하기보다 기존 오픈소스 알고리즘을 자신의 용도에 맞게 손질한다. 프라임 인텔렉트는 바로 이 작업에 특화된 클라우드 플랫폼을 운영한다. 이 플랫폼은 회사가 지난해 공개한 두 오픈소스 툴킷 베리파이어스(Verifiers)와 프라임-RL(Prime-RL)로 모델을 맞춤화한다. 개발자는 실제 사용자에게 제공할 작업을 모사한 가상 환경에서 모델을 훈련하는데, 온라인 리서치 에이전트라면 브라우저가 담긴 샌드박스에 놓이는 식이다. 이런 훈련 환경은 코드 저장소나 지원 티켓 처리 도구 같은 시스템도 흉내 낼 수 있다.
베리파이어스 툴킷은 훈련 환경을 만드는 데 드는 시간을 줄이고, 사용자들이 만든 AI 샌드박스 카탈로그를 제공해 모든 것을 처음부터 구축할 필요를 없앤다. 실제 훈련은 관리형 클라우드 기반 그래픽카드 클러스터에서 돌아가며, 프라임-RL이 수천 개의 그래픽카드에 훈련 작업을 병렬 분산해 처리 속도를 높인다. 이 툴킷은 파이토치(PyTorch)의 구성 요소인 오픈소스 기술 FSDP2로 칩 간 작업을 배분하는데, 경쟁 기술보다 메모리를 덜 쓰고 커스터마이징 여지가 크다는 특징이 있다.
프라임 인텔렉트는 여러 훈련 방식을 지원한다. 고객은 모델의 모든 파라미터를 미세조정하거나, 더 빠르고 하드웨어 효율이 높은 LoRA 방식을 택할 수 있다. LoRA는 특정 작업에 최적화된 소수의 인공 뉴런을 모델에 덧붙이는 방식이다. 훈련을 마친 모델은 회사가 관리하는 추론 인프라에 배포할 수 있으며, 개발자는 경매 방식 시스템을 통해 50곳 넘는 데이터센터에서 추론 용량을 구매한다.
회사는 지난해 자사 플랫폼으로 1,000억 개 넘는 파라미터를 가진 인텔렉트-3(Intellect-3) 모델을 훈련해 비슷한 규모의 모델들을 여러 추론 벤치마크에서 앞섰다고 밝혔다. 기업용 신용카드 업체이자 고객사인 램프(Ramp)는 이 플랫폼으로 일부 스프레드시트 검색 작업을 클로드 오퍼스 4.6보다 정확하게 처리하는 모델을 만들었다. 프라임 인텔렉트는 약 6,000곳의 고객사를 두고 있으며, 이번 라운드에 앞서 연환산 매출이 1억 달러를 넘어섰다고 설명했다.
저작권자 © STORIUM 무단전재 및 재배포 금지
