Liquid AI가 자사 최소 규모 모델인 LFM2.5-230M을 출시했다. 파라미터 수 2억 3천만 개의 이 모델은 스마트폰, 로봇, 자동화 장치에서 에이전트 작업을 온디바이스로 처리하는 데 초점을 맞춘다. 베이스 체크포인트와 인스트럭션 튜닝 체크포인트 모두 허깅페이스(Hugging Face)에 오픈 웨이트로 공개됐으며, 라이선스는 lfm1.0이 적용된다.
LFM2.5-230M은 LFM2 아키텍처 위에 구축된 텍스트 전용 모델로, 총 14개 레이어 가운데 8개는 이중 게이트 LIV 합성곱(convolution) 블록이고 나머지 6개는 그룹 쿼리 어텐션(GQA) 블록으로 구성됐다. 이 혼합 구조는 CPU 추론 속도를 높이기 위한 설계다. 컨텍스트 길이는 3만 2768토큰, 어휘 크기는 6만 5536이며 영어·중국어·아랍어·일본어 등 10개 언어를 지원한다. 메모리 점유량은 4비트 빌드 기준 293~375MB 수준으로, 4비트 양자화(quantization) 상태에서 갤럭시 S25 울트라에서 초당 213토큰, 라즈베리파이 5에서 초당 42토큰의 처리 속도를 보였다. 사전 학습은 19조 토큰으로 진행됐으며 여기에는 3만 2천 토큰 컨텍스트 확장 단계가 포함됐다. 사후 학습은 지도 미세조정(SFT)과 직접 선호 최적화(DPO), 멀티 도메인 강화학습의 3단계로 이뤄졌고, 더 큰 모델인 LFM2.5-350M으로부터의 지식 증류(distillation)를 활용해 소형임에도 경쟁력 있는 성능을 끌어냈다.
Liquid AI가 공개한 벤치마크 결과에 따르면, 지시 따르기 평가 지표인 IFEval에서 LFM2.5-230M은 71.71점을 기록해 파라미터 수가 훨씬 많은 Qwen3.5-0.8B(59.94점)와 Gemma 3 1B IT(63.49점)를 모두 앞섰다. 임상 데이터 추출 벤치마크인 CaseReportBench에서는 22.51점으로 동급 경쟁 모델을 상회했다. 반면 범용 지식 평가인 MMLU-Pro에서는 20.25점으로 Qwen3.5-0.8B의 37.42점에 크게 뒤처졌다. Liquid AI는 이 모델이 고급 수학, 코드 생성, 창작 글쓰기 같은 추론 집약적 작업에는 적합하지 않다고 명시적으로 밝혔다.
모델의 활용 용도는 크게 두 가지다. 하나는 수십만 건의 임상 보고서를 정형 데이터로 변환하는 대규모 데이터 추출 파이프라인이고, 다른 하나는 음성 명령을 도구 호출로 전환하는 경량 온디바이스 에이전트 작업이다. 실제 사례로 Liquid AI는 Unitree G1 휴머노이드 로봇에 이 모델을 탑재해 로봇 내장 엔비디아 Jetson Orin 보드에서 자연어 명령을 일련의 도구 호출로 변환하는 스킬 선택 레이어로 운용했다. 추론 프레임워크 지원 측면에서는 llama.cpp, MLX, vLLM, SGLang, ONNX를 출시 당일부터 지원한다. 함수 호출 방식은 시스템 프롬프트에 JSON 형식 도구를 정의하면 모델이 특수 토큰 사이에 파이썬 스타일 함수 호출을 출력하는 구조다.
소형 언어 모델 경쟁이 가속화하는 가운데, Liquid AI의 이번 출시는 클라우드 API 비용 없이 엣지 디바이스에서 데이터를 로컬 처리하려는 기업 수요를 직접 겨냥한다. 모델은 Transformers 5.0.0 이상에서 동작하며, 온도 0.1, top_k 50, 반복 패널티 1.05를 권장 생성 설정으로 제시했다. 지식 컷오프는 2024년 중반이다.
저작권자 © STORIUM 무단전재 및 재배포 금지
