AI 에이전트가 기업에서 자동화 작업을 수행하는 사례가 늘어나고 있지만, 기존 시스템은 단기 기억에 의존해 지속적인 맥락 유지가 어려웠다. 이에 따라 AI 에이전트가 장기 기억을 갖추도록 하는 기술 개발이 활발하게 진행되고 있다.
레디스(Redis)의 AI 제품 관리 부사장 만빈더 싱(Manvinder Singh)은 "AI 에이전트의 메모리 기능은 지속적이고 일관된 상호작용을 가능하게 하며, 보다 개인화된 경험을 제공할 수 있도록 해준다"고 강조했다. 그는 "대규모 언어 모델(LLM)은 기본적으로 상태를 유지하지 않기 때문에, 메모리 기능이 없다면 이전의 프롬프트나 응답을 기억할 수 없다"고 설명했다.
이러한 문제를 해결하기 위해 다양한 기업들이 장기 기억을 강화하는 솔루션을 출시하고 있다. 랭체인(LangChain)은 LangMem SDK를 통해 AI 에이전트가 대화에서 정보를 추출하고, 프롬프트를 최적화하며, 행동과 사실을 장기적으로 저장할 수 있도록 지원한다. 또 다른 솔루션으로는 오픈소스 도구인 메모베이스(Memobase)가 있다. 메모베이스는 '사용자 중심 메모리' 개념을 도입해 애플리케이션이 사용자 정보를 학습하고 적응할 수 있도록 한다.
최근에는 AI 모델이 스스로 학습하고 개선할 수 있도록 설계된 새로운 메모리 시스템도 등장하고 있다. 2024년 10월 발표된 연구에서는 장기 기억을 보유한 AI 모델이 시간이 지남에 따라 점점 더 정교해지는 과정을 설명했다. 또 다른 연구에서는 루트거스 대학, 앤트 그룹, 세일즈포스 연구진이 'A-MEM'이라는 메모리 시스템을 개발해 AI 에이전트가 보다 적응력 높은 정보 네트워크를 구축할 수 있도록 했다.
그러나 AI의 기억을 무한히 확장하는 것이 반드시 최적의 해결책은 아니라는 지적도 있다. 싱은 "기업은 메모리 아키텍처를 설계할 때 저장할 기억의 유형, 저장 및 업데이트 방식, 검색 방법 등을 신중히 고민해야 한다"며, "불필요한 정보를 제거하는 '기억 소거(decay mechanism)' 기능도 마련해야 한다"고 강조했다.
이처럼 AI 에이전트의 장기 기억 기술은 이제 막 발전하기 시작했지만, 향후 기업들이 AI를 더욱 효율적으로 활용하는 중요한 요소가 될 것으로 보인다. AI 메모리 기술이 고도화됨에 따라 기업들은 기업용 AI 시장에서 경쟁력을 확보할 수 있는 새로운 기회를 맞이할 전망이다.