OpenAI, 앤트로픽, 구글 등 주요 AI 기업들이 사용자의 행동 패턴·선호·진행 작업을 AI가 지속적으로 기억하고 활용하는 장기 기억 기능을 경쟁적으로 강화하고 있다. 단순 정보 제공을 넘어 일련의 작업 흐름을 연속해서 처리하는 에이전트 AI의 확산이 이 경쟁을 촉발시킨 주된 요인으로 분석된다.
구체적인 움직임을 보면, OpenAI는 6월 18일 맥OS 사용자를 대상으로 업무 자동화 도구 코덱스(Codex) 앱에 ‘레코드&리플레이(Record & Replay)’ 기능을 추가했다. 사용자가 한 번 작업 방식을 시연해두면 유사한 작업을 반복 수행할 수 있어, 예를 들어 영상 업로드 절차를 한 번 알려준 뒤부터는 “같은 방식으로 해줘”라는 지시만으로 자동 처리가 가능해진다. OpenAI는 앞서 6월 4일에는 과거 대화에서 중요 정보를 자동으로 종합·갱신하는 ‘드리밍 V3(Dreaming V3)’도 공개했다. 6월에 휴가 관련 질문을 했다면 7월에는 이미 휴가를 다녀온 맥락을 전제로 답변하는 식이다. 앤트로픽도 AI가 주기적으로 메모리 저장소를 검토해 자주 쓰인 패턴을 찾아내거나 과거 실수를 파악해 이후 작업에 반영하는 ‘에이전트 드리밍(Dreaming) 프리뷰’를 선보였다. 구글은 지난달 제미나이 스파크(Gemini Spark) 출시와 함께 “사용자의 디지털 생활을 탐색해 24시간 작동하는 AI 개인비서”라는 방향성을 공개적으로 제시했다.
그러나 장기 기억 강화에는 부작용 우려가 따른다. 중국인민대학교와 레노버 AI 연구소가 올해 초 발표한 연구에 따르면 개인정보를 입력한 AI 모델이 객관적 사실보다 사용자 이력에 맞춰 답변하는 이른바 ‘개인화 환각’이 나타났으며, 사실 정확도가 비교군 대비 평균 10.5%포인트 낮게 측정됐다. 또한 사용자가 인지하지 못한 상태에서 민감 정보가 누적 저장될 수 있다는 점도 지적된다. 가천대 법학과 최경진 교수는 “에이전트 AI 시대에 개인정보를 누적 처리하는 방향 자체는 거스를 수 없는 흐름”이라면서도 “AI가 어떤 정보를 저장했는지 이용자가 파악하고, 원치 않는 정보를 삭제할 수 있는 접근성이 강화돼야 한다”고 말했다.
AI 활용이 일회성 챗봇 대화에서 장기적 업무 도우미로 전환되면서, 기억의 연속성은 AI 서비스의 핵심 경쟁력이 되고 있다. 기업들이 이 기능을 앞다퉈 내놓는 가운데, 개인화의 이점과 오류·프라이버시 리스크를 어떻게 균형 잡을지가 향후 기술 신뢰도를 결정할 중요 과제로 부상하고 있다.
저작권자 © STORIUM 무단전재 및 재배포 금지
