대규모 언어 모델(LLM)은 기본적으로 상태를 저장하지 않는다. API 호출이 끝나면 이전 대화 내용이 모두 사라지며, 단순 질의응답에는 문제가 없지만 여러 단계를 거쳐 계획하고 도구를 호출하는 에이전트 시스템에서는 치명적인 제약이 된다. 이 공백을 채우는 것이 에이전트 메모리 설계다. 메모리는 모델을 상태 없는 처리기에서 경험을 축적하고 시간에 걸쳐 행동할 수 있는 시스템으로 변환하는 인프라로, 공개된 CoALA 프레임워크(Princeton, arXiv:2309.02427) 등 복수의 연구에서 7가지 유형으로 분류한다.
7가지 메모리 유형은 저장 위치와 유지 기간 두 축으로 구분된다. 첫 번째는 작동 메모리(Working Memory)로, 모델이 현재 처리 중인 컨텍스트 창 안의 모든 정보다. 시스템 프롬프트·최근 메시지·도구 출력·추론 단계가 여기에 해당하며 임시적이고 크기 제한이 있다. 두 번째 의미 메모리(Semantic Memory)는 사용자 선호·도메인 지식처럼 언제 학습했는지와 무관하게 유지되는 사실 저장소로, 벡터 데이터베이스나 프로필 스키마로 구현한다. 세 번째 일화 메모리(Episodic Memory)는 과거 이벤트·대화·작업 실행 로그를 기록하며, Reflexion이나 ExpeL처럼 언어 사후 분석을 저장해 이후 실행에 재활용한다. 네 번째 절차적 메모리(Procedural Memory)는 기술·도구 사용 패턴·워크플로우 등 방법론적 지식을 담으며, 시스템 프롬프트나 파인튜닝으로 구현한다. 다섯 번째 외부 검색 메모리(External/Retrieval Memory)는 벡터 데이터베이스에 문서나 과거 이력을 저장하고 추론 시 유사도 검색으로 끌어오는 RAG(검색증강생성) 방식이다. 여섯 번째 매개변수 메모리(Parametric Memory)는 학습 가중치에 새겨진 언어·추론·세계 지식으로, 별도 조회 없이 생성에 즉시 사용되지만 학습 시점에 고정된다. 일곱 번째 미래 지향 메모리(Prospective Memory)는 에이전트가 아직 실행하지 않은 예약된 의도·목표를 추적하며, 장기 다단계 계획 에이전트에 필수적이다.
각 유형은 해결하는 실무 문제가 다르다. 단일 세션 코딩 도우미는 작동 메모리만으로 충분하고, 개인 비서가 다음 세션에도 글루텐 알레르기를 기억하려면 의미 메모리가 필요하다. 주간 프로젝트를 관리하는 장기 에이전트는 금요일 보고서 전송 약속을 잃지 않기 위해 미래 지향 메모리가 있어야 한다. 자율 시장 분석 에이전트처럼 복잡한 시스템은 7가지를 동시에 활용한다. 매개변수 메모리가 기본 추론을 제공하고, 외부 검색 메모리가 최신 시장 데이터를 끌어오며, 의미 메모리는 사용자의 선호 보고서 형식을 제공하고, 일화 메모리는 신뢰할 만한 소스를 기억하며, 절차적 메모리는 섹션 작성 순서를 결정하고, 미래 지향 메모리는 후속 초안 일정을 잡는다. 작동 메모리가 이 모든 것을 활성 컨텍스트로 조립한다.
실무 구축 순서는 단계적으로 접근하는 것이 권장된다. 작동 메모리는 모델에 기본으로 탑재돼 있어 추가 작업 없이 시작점이 된다. 세션을 넘어 사용자를 기억해야 할 때 의미 메모리를 추가하고, 그 이후에 일화·절차·미래 지향 메모리를 순차적으로 레이어링한다. 매개변수 메모리는 기반 모델 자체에 내재하고, 외부 검색 메모리는 RAG를 도입하는 순간 함께 들어온다. 7가지를 처음부터 모두 구현할 필요는 없으며, 실제 필요가 복잡도를 정당화할 때 하나씩 추가하는 방식이 안정적이다. 장기 저장소는 프로덕션에서 벡터 데이터베이스로 이전하고, 패턴은 그대로 유지하면서 장기 메모리에서 작동 메모리로 검색한 뒤 추론하는 흐름을 반복한다.
에이전트 메모리 설계는 단순한 구현 선택을 넘어 시스템의 신뢰성과 적응 능력을 결정한다. 레이어 하나를 제거하면 에이전트가 할 수 없는 작업이 생긴다. AI 에이전트가 기업 환경에 실질적으로 배치되는 사례가 늘면서, 메모리 설계를 얼마나 정교하게 하느냐가 제품 완성도의 핵심 변수로 부상하고 있다.
