ChatGPT와 대화할 때마다 처음부터 다시 설명해야 했던 경험, 있으시죠? 대화가 끝나면 AI는 모든 걸 잊어버립니다. 이게 바로 단기 메모리의 한계입니다. 하지만 수주에서 수개월 동안 자율적으로 작동해야 하는 AI 에이전트라면 이야기가 달라집니다.

MachineLearningMastery의 Vinod Chugani가 발표한 글에서 자율 AI 에이전트가 진정한 자율성을 갖추기 위해 필요한 3가지 장기 메모리 타입을 소개합니다. 인간의 기억 체계를 모방한 에피소드 메모리, 의미론적 메모리, 절차적 메모리가 각각 어떤 역할을 하고 어떻게 구현되는지 살펴봅니다.

출처: Beyond Short-term Memory: The 3 Types of Long-term Memory AI Agents Need – MachineLearningMastery.com

단기 메모리의 한계: RAM처럼 작동하는 AI

대부분의 개발자가 익숙한 단기 메모리는 컨텍스트 윈도우입니다. ChatGPT가 한 대화 안에서 일관성을 유지하거나, 챗봇이 세 메시지 전에 한 말을 기억하는 것이죠. 하지만 이 메모리는 컴퓨터의 RAM처럼 작동합니다. 세션이 끝나면 사라집니다.

기본적인 질의응답 시스템에는 이것만으로 충분합니다. 하지만 며칠, 몇 주, 몇 달에 걸쳐 진화하고 적응하며 독립적으로 작동해야 하는 자율 에이전트라면요? 단기 메모리로는 불가능합니다. 아무리 큰 컨텍스트 윈도우도 외부 저장 계층 없이는 세션을 넘어 지속되거나 축적되거나 개선되지 않습니다.

진정한 자율성을 가진 AI 에이전트는 다른 접근이 필요합니다. 바로 지속되고, 학습하며, 지능적 행동을 안내하는 장기 메모리입니다.

3가지 장기 메모리: 각자 다른 질문에 답하다

자율 에이전트는 세 가지 서로 다른 유형의 장기 메모리가 필요합니다. 각 메모리 타입은 에이전트가 처리해야 하는 질문에 대응합니다: “이전에 무슨 일이 있었나?”, “내가 무엇을 아는가?”, “이걸 어떻게 하는가?”

에피소드 메모리: 과거 경험에서 배우기

에피소드 메모리는 AI 에이전트가 운영 이력에서 특정 사건과 경험을 회상할 수 있게 합니다. 무엇이 일어났고, 언제 일어났으며, 결과가 어땠는지를 저장하죠.

예를 들어 AI 재무 자문 에이전트를 생각해보세요. 에피소드 메모리가 있으면 일반적인 투자 원칙만 아는 게 아닙니다. 3개월 전 사용자 A에게 테크주 포트폴리오를 추천했고 그게 저조한 성과를 냈다는 걸 기억합니다. 사용자 B가 분산투자 조언을 무시했다가 나중에 후회했다는 것도 기억하죠. 이런 구체적인 경험들이 일반 지식으로는 할 수 없는 방식으로 미래 추천에 영향을 줍니다.

구현 방식: 에피소드 메모리는 벡터 데이터베이스나 다른 영구 저장 계층을 사용해 구현됩니다. 과거 에피소드를 의미론적으로 검색할 수 있게 하죠. 정확히 일치하는 것을 찾는 게 아니라, 세부사항은 다르더라도 개념적으로 유사한 경험을 찾아냅니다.

실제로는 구조화된 상호작용 기록을 저장합니다: 타임스탬프, 사용자 식별자, 취한 행동, 환경 조건, 관찰된 결과. 이 에피소드들은 에이전트가 의사결정할 때 참조하는 사례 연구가 되어, 시간이 지나면서 점점 더 정교해지는 사례 기반 추론을 가능하게 합니다.

의미론적 메모리: 사실 지식의 저장소

에피소드 메모리가 개인적 경험에 관한 것이라면, 의미론적 메모리는 사실 지식과 개념적 이해를 저장합니다. 세상에 대해 추론하는 데 필요한 사실, 규칙, 정의, 관계들이죠.

법률 AI 어시스턴트는 의미론적 메모리에 크게 의존합니다. 계약법이 형법과 다르다는 것, 특정 조항이 고용 계약서에 표준적이라는 것, 특정 판례가 특정 관할권에 적용된다는 것을 알아야 합니다. 이 지식은 특정 사건(에피소드)에 묶여있지 않고, 광범위하게 적용되는 일반 전문성입니다.

구현 방식: 의미론적 메모리는 종종 지식 그래프나 관계형 데이터베이스로 모델링됩니다. 엔티티와 그 관계를 쿼리하고 추론할 수 있게 하죠. 많은 에이전트가 비구조화된 도메인 지식을 벡터 데이터베이스에 저장하고 RAG 파이프라인을 통해 검색하기도 합니다.

에피소드 메모리와 의미론적 메모리의 구분이 중요합니다. 에피소드 메모리는 “지난 화요일, 클라이언트 Y에게 접근법 X를 시도했는데 Z 때문에 실패했다”고 말합니다. 의미론적 메모리는 “접근법 X는 일반적으로 조건 A와 B가 있을 때 가장 잘 작동한다”고 말하죠. 둘 다 필수적이지만 서로 다른 인지 기능을 담당합니다.

시간이 지나면서 에피소드 메모리에서 추출한 패턴이 의미론적 지식으로 정제될 수 있어, 에이전트가 개별 경험을 넘어 일반화할 수 있게 됩니다.

절차적 메모리: 자동화된 전문성

절차적 메모리는 AI 에이전트 설계에서 종종 간과되지만, 복잡한 다단계 워크플로우를 실행해야 하는 에이전트에게는 필수적입니다. 에이전트가 숙고 없이 자동으로 실행할 수 있는 학습된 스킬과 행동 패턴이죠.

타자를 치거나 운전하는 법을 배울 때를 생각해보세요. 처음에는 각 동작이 집중된 주의를 필요로 했습니다. 시간이 지나면서 이 스킬들은 자동화되어 의식적인 마음을 더 높은 수준의 작업에 쓸 수 있게 되었죠. AI 에이전트의 절차적 메모리도 유사하게 작동합니다.

고객 서비스 에이전트가 백 번째로 비밀번호 재설정 요청을 받았을 때, 절차적 메모리가 있다면 매번 전체 워크플로우를 처음부터 추론할 필요가 없습니다. 일련의 단계들(신원 확인, 재설정 링크 전송, 완료 확인, 행동 로깅)이 캐시된 루틴이 되어 안정적으로 실행됩니다.

구현 방식: 절차적 메모리는 강화학습, 파인튜닝, 또는 모범 사례를 인코딩하는 명시적으로 정의된 워크플로우를 통해 나타날 수 있습니다. 에이전트가 경험을 쌓으면서 자주 사용되는 절차들이 절차적 메모리로 이동하여 응답 시간을 개선하고 계산 오버헤드를 줄입니다.

세 메모리의 협업: 시장 분석 사례

세 메모리 타입은 통합될 때 가장 효과적입니다. 자율 AI 리서치 어시스턴트가 “재생에너지 투자에 대한 시장 분석 보고서를 준비하라”는 작업을 받았다고 가정해봅시다.

에피소드 메모리는 지난달 반도체 산업에 대한 유사한 분석을 작성했을 때 사용자가 규제 리스크 평가를 포함한 것을 높이 평가했고 기술 전문용어는 거부감을 느꼈다는 걸 회상합니다. 어떤 데이터 소스가 가장 신뢰할 만했고 어떤 시각화 형식이 가장 좋은 피드백을 받았는지도 기억하죠.

의미론적 메모리는 사실적 기반을 제공합니다: 다양한 재생에너지 유형의 정의, 현재 시장 가치평가, 업계의 주요 플레이어, 국가별 규제 프레임워크, 에너지 정책과 투자 트렌드의 관계.

절차적 메모리는 실행을 안내합니다: 에이전트는 시장 규모 파악으로 시작해서 경쟁 환경 분석으로 이동하고, 리스크 평가를 거쳐 투자 추천으로 마무리한다는 것을 자동으로 알고 있습니다. 섹션 구조화 방법, 요약을 언제 포함할지, 출처 인용의 표준 형식도 알죠.

세 가지가 모두 함께 작동하지 않으면 에이전트의 역량이 떨어집니다. 에피소드 메모리만 있으면 일반 지식 없이 지나치게 개인화됩니다. 의미론적 메모리만 있으면 지식은 풍부하지만 경험에서 배우지 못합니다. 절차적 메모리만 있으면 프로그램된 작업 실행은 잘하지만 새로운 상황에 유연하지 못합니다.

용도에 맞는 메모리 아키텍처 선택

모든 자율 에이전트가 세 메모리 타입을 동등하게 강조할 필요는 없습니다. 올바른 메모리 아키텍처는 구체적인 애플리케이션에 따라 달라집니다.

사용자 개인화에 초점을 맞춘 개인 AI 어시스턴트는 에피소드 메모리가 가장 중요합니다. 법률, 의료, 금융 같은 분야의 도메인 전문가 에이전트는 의미론적 메모리가 가장 중요하죠. 반복 프로세스를 처리하는 워크플로우 자동화 에이전트는 절차적 메모리가 핵심입니다.

많은 프로덕션 시스템들(특히 LangGraph나 CrewAI 같은 프레임워크로 구축된 것들)은 처리해야 하는 작업에 따라 여러 메모리 타입을 결합한 하이브리드 접근법을 구현합니다.

정보 처리에서 지혜 축적으로

에이전틱 AI 시대가 깊어질수록, 메모리 아키텍처가 유능한 시스템과 제한적인 시스템을 가를 것입니다. 우리가 일하는 방식을 바꿀 에이전트는 단순히 더 나은 프롬프트를 가진 언어 모델이 아닙니다. 진정한 자율성을 가능하게 하는 풍부하고 다면적인 메모리를 가진 시스템이죠.

단기 메모리는 질문에 답하는 챗봇에 충분했습니다. 장기 메모리(에피소드, 의미론적, 절차적)는 그런 챗봇을 장기간에 걸쳐 학습하고 기억하며 지능적으로 행동하는 에이전트로 변화시킵니다. 고급 언어 모델, 벡터 데이터베이스, 메모리 아키텍처의 융합이 단순히 정보를 처리하는 것이 아니라 시간에 걸쳐 지혜와 전문성을 축적하는 AI 에이전트를 만들어내고 있습니다.

참고자료:

• Making Sense of Memory in AI Agents – Leonie Monigatti