AWS가 Amazon Nova Lite와 Nova Micro 모델을 파인튜닝해 이커머스 이메일에서 구조화된 정보를 추출하는 방법을 공식 기술 블로그를 통해 공개했다. 이 사례는 글로벌 이커머스 물류 AI 플랫폼 기업 파슬퍼폼(Parcel Perform)과의 협력으로 진행됐으며, AWS 생성형 AI 이노베이션 센터(GenAIIC)가 기술 컨설팅을 맡았다. 매일 수백만 건의 이메일을 처리해야 하는 기업 입장에서 단순 알림부터 복잡한 HTML 형식까지 다양한 이메일에서 정확하게 데이터를 추출하는 것은 오랜 과제였다.
파슬퍼폼이 직면한 핵심 문제는 모델 환각, 주문 번호와 추적 번호처럼 유사한 데이터 유형 간 혼동, 그리고 HTML 형식 이메일 처리 시 발생하는 과도한 토큰 비용이었다. AWS GenAIIC 팀은 파라미터 효율적 파인튜닝(PEFT) 기법의 하나인 저랭크 적응(LoRA)을 활용한 지도 학습(SFT) 방식으로 Nova Lite와 Nova Micro를 최적화했다. 학습 데이터는 1,300건과 4,900건 두 가지 규모로 준비해 훈련 데이터 크기가 성능에 미치는 영향을 비교 평가했다. 파인튜닝 작업은 Amazon SageMaker AI에서 실행했으며, 최적화된 모델은 Amazon Bedrock에 온디맨드 추론 방식으로 배포됐다.
파슬퍼폼 AI 팀장 레비(Le Vy)는 파인튜닝된 Nova Micro 모델이 테스트 데이터셋에서 최대 94.77%의 추출 정확도를 달성했으며, 이는 기준 모델 대비 최대 16.6퍼센트포인트 개선된 수치라고 밝혔다. 추론 지연 시간은 약 32% 단축됐고, 비용은 기존 모델 대비 약 절반 수준으로 줄었다. 더 큰 모델인 Nova Lite와 비교해도 Nova Micro가 더 낮은 비용으로 동등하거나 그 이상의 성능을 냈다. 이 결과를 바탕으로 파슬퍼폼은 파인튜닝 모델을 실제 서비스에 투입해 이커머스 물류 운영을 개선하고 있다. 파인튜닝 워크플로우는 훈련 데이터를 아마존 베드록 대화 스키마 형식으로 준비해 S3에 업로드한 뒤 SageMaker AI API로 파인튜닝 작업을 생성하고, 완료된 모델을 Bedrock에 가져와 추론하는 순서로 이뤄진다. 이미 AWS는 Amazon Nova 2 Lite로 별도 머신러닝 학습 없이 객체 탐지를 구현하는 방법을 공개한 바 있어, Nova 모델군의 활용 폭이 꾸준히 확장되고 있다.
이 사례는 대규모 언어 모델을 특정 비즈니스 데이터 패턴에 맞게 조정할 때 PEFT 기반 파인튜닝이 범용 모델의 한계를 실질적으로 극복할 수 있음을 보여준다. 모든 고객 데이터를 단일 모델에 일괄 적용하는 방식보다 도메인 특화 학습 데이터로 최적화된 경량 모델이 정확도·속도·비용 세 가지 지표를 동시에 개선한 점이 주목된다. AWS는 Nova 모델 커스터마이징 허브를 통해 파인튜닝 세부 구성 예시를 공개하고 있으며, 이를 활용해 유사한 정형 데이터 추출 과제를 가진 기업들이 직접 적용해볼 수 있다.
저작권자 © STORIUM 무단전재 및 재배포 금지
