구글이 3일(현지시간) 개인용 기기에서 직접 구동 가능한 오픈소스 AI 모델 ‘젬마 4 12B(Gemma 4 12B)’를 공개했다. 이 모델은 16GB VRAM을 갖춘 소비자용 노트북에서 텍스트·이미지·오디오를 처리할 수 있도록 설계됐으며, 클라우드 서버 없이 로컬 환경에서 에이전트 워크플로우를 실행하는 것을 목표로 한다. 누적 다운로드 1억 5,000만 건을 기록한 젬마 시리즈의 신규 라인업으로, 기존 온디바이스용 E4B 모델과 고성능 26B MoE 모델 사이의 성능 공백을 채우는 위치에 있다.
젬마 4 12B의 핵심 설계 특징은 이미지와 오디오 처리에 사용하던 별도 인코더를 완전히 제거한 ‘인코더 프리(Encoder-free)’ 아키텍처다. 기존 멀티모달 모델은 시각·음성 데이터를 전용 인코더로 변환한 뒤 언어 모델에 전달했는데, 이 구조가 메모리 사용량 증가와 응답 지연의 원인으로 지적돼 왔다. 구글은 시각 데이터 처리를 단일 행렬 곱셈과 위치 임베딩 기반의 초경량 모듈로 대체하고, 오디오는 원시 신호를 텍스트 토큰과 동일한 차원 공간으로 직접 투영하는 방식을 적용했다. 이를 통해 LLM 백본이 시각·청각 처리를 통합 수행하는 구조가 됐다.
성능 면에서는 26B MoE 모델의 절반에도 못 미치는 메모리를 사용하면서도 표준 벤치마크에서 이에 근접하는 수치를 기록했다고 구글은 설명했다. 또한 여러 토큰을 동시에 예측하는 ‘멀티 토큰 예측(MTP)’ 기능을 기본 탑재해 생성 속도를 높였다. 다단계 추론과 자율형 에이전트 기능을 일반 컴퓨팅 환경에서 실행할 수 있다는 점에서, 기업 사내망이나 오프라인 환경에서의 활용 가능성이 거론된다.
모델은 아파치 2.0(Apache 2.0) 라이선스로 배포되며 상업적 활용이 가능하다. 허깅페이스(Hugging Face)와 캐글(Kaggle)을 통해 사전 학습 체크포인트와 명령어 미세조정 가중치를 내려받을 수 있다. LM 스튜디오, 올라마(Ollama), 구글 AI 엣지 갤러리 등 다양한 온디바이스 실행 환경에서 즉시 테스트 가능하며, 에이전트 개발을 지원하는 공식 젬마 스킬 저장소도 함께 공개됐다. 구글은 이번 12B 모델이 온디바이스 멀티모달 개발 흐름에 기여할 것으로 보고 있으며, 개발자는 제미나이 엔터프라이즈 플랫폼이나 구글 클라우드 인프라를 통해 커스텀 에이전트를 배포하는 것도 가능하다.
저작권자 © STORIUM 무단전재 및 재배포 금지
