MemAgent는 모든 원문을 한 컨텍스트 창에 넣는 대신, 긴 텍스트를 구간별로 읽고 필요한 내용을 메모리에 덮어쓰며 장기 질의를 푸는 메모리 에이전트 연구다. 8K 컨텍스트에서 학습한 에이전트가 350만 토큰 QA로 길이를 확장하면서 성능 손실을 5% 미만으로 보고한 ICLR 2026 Oral 논문이다.
긴 컨텍스트만 늘리면 생기는 문제
컨텍스트 창이 커져도 입력 비용, 주의(attention) 계산, 중간 정보의 검색 실패가 함께 커진다. MemAgent는 이 문제를 읽기 → 메모리 갱신 → 다음 구간 읽기 → 답변 루프로 바꾼다. 핵심은 요약을 계속 누적하는 방식이 아니라, 이후 질문에 덜 쓸모 있는 기억을 새 근거로 교체(overwrite)하는 정책을 학습한다는 점이다.
학습과 결과
연구진은 독립 컨텍스트의 여러 대화를 생성하도록 DAPO를 확장한 multi-conversation 강화학습을 사용했다.
| 평가 | 보고 결과 | 해석 |
|---|---|---|
| 3.5M 토큰 QA | 성능 손실 5% 미만 | 짧은 학습 길이 밖으로의 길이 확장 가능성 |
| 512K RULER | 95% 이상 | 장문 정보 회수 과제에서의 성능 |
| 메모리 갱신 | overwrite 정책 | 단순 누적 요약의 정보 팽창을 완화 |
이 수치는 연구 환경의 평가 결과다. 실제 제품에서는 문서 종류, 질의 분포, 갱신 빈도, 메모리의 감사 가능성을 별도 평가해야 한다.
언제 참고하면 좋은가
- 긴 회의록·법무 문서·코드 변경 이력처럼 수십만 토큰 이상을 계속 읽는 워크플로
- ai-agent-memory-tips-strategy의 요약 메모리가 시간이 갈수록 부풀거나 최신 사실을 놓치는 문제
- 장문 RAG와 고정 컨텍스트 윈도우 사이에서 상태 갱신형 에이전트를 실험하려는 연구·플랫폼 팀
MemAgent는 즉시 설치하는 라이브러리라기보다, 장문 처리에서 “무엇을 기억하고 언제 잊을지”를 학습 대상으로 본 설계 레퍼런스다.
관련 문서
- ai-agent-memory-tips-strategy — 에이전트 메모리 전략 선택 기준
- context-memory-engineering-tips-boundary — 컨텍스트와 장기 메모리의 경계
- simplemem — 구조화된 장기 기억을 다루는 에이전트 메모리 접근
참고 자료
- MemAgent: Reshaping Long-Context LLM with Multi-Conv RL-based Memory Agent — arXiv, ICLR 2026 Oral (2026-07-29)