새마을금고중앙회가 자체 전산환경에서 생성형 AI를 운영하기 위한 인프라 구축에 나섰다. 중앙회 공식 홈페이지에는 7월 10일 ‘온프레미스 생성형 AI 인프라 운영 환경 구축’ 재입찰 공고가 올라왔다. 현재 단계는 플랫폼이 완성돼 가동된 상태가 아니라, 구축 사업자를 다시 찾는 조달 절차다.
온프레미스 방식은 내부 문서와 규정, 상담 이력, 업무 매뉴얼을 외부 범용 AI 서비스에 그대로 보내기 어려운 금융권의 제약을 반영한다. 전자신문 보도에 따르면 중앙회는 내부망에서 AI 모델을 운영하면서 접근 권한과 사용 이력, 장애 대응, 백업·복구를 함께 관리하는 구조를 검토하고 있다. 일부 모델을 조직 업무에 맞게 학습하거나 조정할 수 있는 환경도 계획에 포함된 것으로 전해졌다.
구축 이후 예상되는 활용 분야는 내부 규정과 업무자료 질의응답, 문서 요약, 보고서 초안 작성, 상담·민원 대응 지원이다. 중앙회가 공통 운영 기준을 마련하면 부서별로 서로 다른 서비스를 쓰는 데서 생길 수 있는 보안·관리 기준의 차이를 줄일 수 있다. 다만 전국 개별 금고로 언제, 어떤 기능을 배포할지는 공개된 입찰 제목만으로 확인되지 않는다.
사업 예산과 공급사, 적용할 AI 모델, GPU 규모, 이용자 수와 가동 예정일도 아직 공개적으로 확인되지 않았다. ‘자체 AI’는 기반모델을 처음부터 개발한다는 뜻보다 중앙회 통제 아래 운영환경을 갖춘다는 의미에 가깝다. 내부망 구축만으로 정보유출이나 환각 위험이 사라지는 것도 아니다. 실제 도입 단계에서는 데이터 비식별화, 권한 분리, 로그 감사, 모델 평가와 사람의 검토 절차가 함께 마련돼야 한다.
저작권자 © STORIUM 무단전재 및 재배포 금지
