노타의 넷츠프레소는 삼성전자 엑시노스 2600 협업과 KCC 2026 경진대회라는 두 현장에서 쓰임이 확인됐다. 노타는 2025년 12월 30일 공개한 공식 자료에서 엑시노스 2600에 AI 모델 최적화 플랫폼 기술을 공급하고, 엑시노스 AI 스튜디오 차세대 버전 개발에 참여한다고 밝혔다. 회사는 이를 엑시노스 2500에 이은 연속 수주라고 설명했다.
KCC 2026에서는 활용 방식이 더 구체적이다. 공식 블로그에 따르면 20개 팀이 지원했고, 참가팀은 30분 교육 뒤 Llama-3.2-1B, Qwen2.5-0.5B, SmolLM2 세 모델을 최적화했다. 결선에서는 라즈베리파이 5의 쿼드코어 Arm Cortex-A76 환경에서 Llama-3.2-1B를 구동했고, 재학습이나 구조 변경 없이 양자화와 실행 환경만 조정했다. 우승팀은 토큰당 생성 시간(TPOT)을 8배 이상 줄이고, 첫 토큰 생성 시간(TTFT)을 3.8배 줄였으며, 최대 메모리 사용량도 8배 이상 낮췄다.
| 장면 | 공식 자료에서 확인된 내용 | 해석 |
|---|---|---|
| 엑시노스 2600 협업 | AI 모델 최적화 플랫폼 기술 공급, Exynos AI Studio 차세대 버전 개발 참여, 연속 수주 | 칩과 툴체인에 맞춘 상용 적용 단계다 |
| KCC 2026 예선 | 20개 팀, 30분 교육, PPL 0.75 이상·정확도 0.80 이상 | 압축 강도보다 품질 기준이 먼저다 |
| KCC 2026 결선 | Raspberry Pi 5, TPOT 8배 이상, TTFT 3.8배, 메모리 8배 이상 개선 | 기기별 검증 없이는 그대로 복제할 수 없다 |
노타 사례의 핵심은 모델을 작게 만드는 데서 끝나지 않는다는 점이다. 개발자는 양자화 알고리즘, 그래프 최적화, 품질 검증, 기기별 실행 환경을 함께 다뤄야 한다. 공식 자료에서도 참가자들은 22개 알고리즘 조합을 시험했고, 다른 팀은 모델별 압축 강도를 다르게 조정해 품질 기준을 넘겼다. 따라서 넷츠프레소의 실제 가치는 개별 수치보다 배포 전 검증 흐름을 얼마나 짧고 일관되게 만드는지에 있다.
다만 회사의 모델 크기 최대 90% 이상 축소 수치는 협업 플랫폼 설명이고, KCC 2026의 속도·메모리 개선치는 대회 환경에서 확인된 값이다. 하드웨어와 품질 기준이 달라지면 결과도 달라지므로 도입 전에는 기기별 재검증이 필요하다. 노타의 이번 사례는 온디바이스 AI가 모델 성능만이 아니라 최적화 도구와 실행 환경의 결합으로 완성된다는 점을 보여준다.
저작권자 © STORIUM 무단전재 및 재배포 금지
