마이크로소프트 리서치가 AI 에이전트의 장기 기억 문제를 해결하는 메모리 프레임워크 Memora를 공개했다. ICML 2026에 논문이 게재된 이 시스템은 기억 내용의 저장 방식과 검색 방식을 분리하는 ‘조화적 표현(harmonic representation)’ 구조를 채택해, 전체 대화 이력을 맥락에 넣는 방식 대비 토큰 사용량을 최대 98% 줄이면서도 장기 대화 벤치마크에서 최고 성능을 기록했다. 코드는 깃허브에 공개됐다.
현재 대형 언어 모델(LLM) 기반 에이전트는 대화 세션이 끝나면 과거 정보를 잃는 무상태(stateless) 구조를 갖는다. 이를 보완하는 기존 접근법으로는 원문 텍스트 조각을 인덱싱하는 검색증강생성(RAG), 대화에서 사실을 추출하는 Mem0, 지식 그래프 기반의 Zep·GraphRAG 등이 있다. 그러나 이들은 세부 사실을 보존하는 구체성과 정보를 효율적으로 관리하는 추상화 사이에서 하나를 포기해야 하는 한계가 있다. Memora는 각 기억 항목을 6~8개 단어로 요약한 ‘일차 추상화(primary abstraction)’와 상세 내용을 담은 ‘기억 값(memory value)’으로 구성해 이 문제를 해결한다. 유사도 검색에는 일차 추상화만 사용하고, 상세 내용은 별도로 보존한다. 여기에 맥락에 따라 유연하게 생성되는 단서 앵커(cue anchor)를 추가해 의미적 유사성이 낮지만 연관된 기억에도 접근할 수 있도록 했다.
검색 단계에서는 정책 유도 검색기(policy-guided retriever)가 작동한다. 단순히 유사도 상위 k개 항목을 반환하는 대신, 반복적으로 질의를 정제하고 단서 앵커를 통해 연관 기억을 추가 탐색하는 능동적 추론 방식을 쓴다. 마이크로소프트는 이 검색 정책을 강력한 LLM으로 수동 설계하거나, 강화학습으로 소형 모델에 증류(distillation)하는 두 가지 방식을 모두 지원한다. 성능 검증에는 평균 600턴 대화로 구성된 LoCoMo와 11만 5,000 토큰 맥락을 다루는 LongMemEval 두 벤치마크를 사용했다. Memora는 각각 86.3%, 87.4%의 LLM 판정 정확도를 기록해 RAG·Mem0·Nemori·Zep·LangMem 및 전체 맥락 추론을 모두 앞섰다. 특히 다단계 추론이 필요한 항목에서 격차가 컸다. Mem0 대비 기억 항목 수도 절반 수준(344개 대 651개)에 그쳤다.
마이크로소프트 리서치는 Memora를 기반으로 세 가지 후속 연구를 병행하고 있다고 밝혔다. 검색 실패 경험을 바탕으로 기억 시스템 스스로 개선하는 MemLoop, 충분한 맥락이 갖춰질 때까지 기억 저장을 미루는 Deferred Memory, 팀·에이전트 간 지식 공유를 다루는 Group Memory가 그것이다. 이번 코드 공개는 세션 경계를 넘는 장기 협업과 지식 누적이 가능한 AI 에이전트 구현에 관심 있는 연구자와 개발자를 겨냥한다.
