엔터프라이즈 에이전트 메모리란 무엇인가: AI 에이전트가 기업에서 일하려면 필요한 것

AI 에이전트가 쌓은 업무 경험을 조직의 지식으로 쓰려면, 그 경험을 기업의 기존 데이터와 연결하고 권한과 정책에 따라 관리하는 엔터프라이즈 에이전트 메모리(Governed Enterprise Memory)가 필요합니다.
그래파이's avatar
Oct 27, 2026
엔터프라이즈 에이전트 메모리란 무엇인가: AI 에이전트가 기업에서 일하려면 필요한 것

AI 에이전트가 쌓은 업무 경험을 조직의 지식으로 쓰려면, 그 경험을 기업의 기존 데이터와 연결하고 권한과 정책에 따라 관리하는 엔터프라이즈 에이전트 메모리(Governed Enterprise Memory)가 필요합니다.

AI 에이전트를 기업의 실제 업무에 도입하려는 움직임은 올해 들어 더 뚜렷해졌습니다. 맥킨지(McKinsey)가 2026년 8월 발표한 조사에 따르면, 하나 이상의 업무 영역에서 AI 에이전트를 확장 적용하고 있다고 답한 대기업(연 매출 10억 달러가 넘는 기업) 응답자의 비율은 전년 27%에서 40%로 늘었습니다(출처: McKinsey, The State of AI in 2026: On the road to ROI). AI 에이전트가 개별적인 실험을 넘어 실제 업무로 들어오고 있는 것입니다.

다만 에이전트가 업무에 깊이 참여할수록 다뤄야 할 맥락도 함께 늘어난다는 점은 이 흐름에서 놓치기 쉬운 부분입니다. 에이전트는 여러 문서와 시스템을 조회하고 도구를 실행하며, 중간 결과에 따라 다음 행동을 결정합니다. 며칠에 걸친 업무라면 이전에 무엇을 확인했고 왜 그런 판단을 내렸는지까지 이어받아야 일이 끊기지 않습니다.

이렇게 쌓인 경험은 업무가 끝난 뒤에도 다음 업무에 활용될 수 있습니다. 에이전트가 문제의 원인을 파악하려고 분석한 자료, 여러 시도 끝에 정리한 해결 절차, 특정한 판단을 내린 이유를 다음 업무에 활용하면 시행착오를 줄이고 문제를 더 빨리 풀 수 있습니다. 새로 합류한 직원이 업무를 익힐 때나, 다른 팀과 에이전트가 비슷한 문제를 만났을 때도 마찬가지입니다. 이처럼 경험이 여러 사람과 에이전트에게 공유되고 활용될 때, 개별 업무의 경험은 조직 전체의 지식으로 쌓여 갑니다.

에이전트가 업무 과정에서 확인하고 정리한 정보, 내린 판단과 수행 결과를 통틀어 '업무 경험'이라고 부른다면, 이 업무 경험을 이후 업무에서 다시 쓸 수 있도록 저장한 것이 '에이전트 메모리(이하 메모리)'입니다. 여기서 메모리는 AI 에이전트가 과거의 요약이나 경험을 기억하고 이후 업무에 활용하기 위한 정보를 의미합니다. 그래파이는 메모리가 기업의 기존 데이터와 연결될 때 비로소 실제 업무에 쓰일 수 있다고 봅니다. 이 글에서는 엔터프라이즈 에이전트 메모리가 왜 필요한지, 기업 환경에서는 무엇을 고려해야 하는지 살펴보고, 그래파이가 VLDB 2026 스폰서 세션에서 발표한 설계 방향도 함께 나누고자 합니다.

엔터프라이즈 에이전트 메모리란 무엇인가

엔터프라이즈 에이전트 메모리는 AI 에이전트가 업무 과정에서 쌓은 맥락을 기억하고 그 활용 범위를 조직의 권한과 정책에 따라 통제해, 기업 환경에서 장기간 안전하게 일할 수 있게 하는 기술입니다.

ChatGPT나 Claude와 같은 AI 서비스도 이전 대화나 사용자 선호를 대화 세션이 종료된 이후에도 기억하고 활용하는 개인 사용자용 메모리 기능을 제공합니다. 반면 엔터프라이즈 에이전트 메모리는 개인 사용자를 넘어, 기업의 여러 사용자와 에이전트가 업무 경험을 공유하고 재사용할 수 있도록 하는 데 초점을 맞춥니다. 이를 위해서는 업무 과정에서 축적된 맥락을 기억하면서도, 그 활용 범위를 조직의 권한과 정책에 따라 통제할 수 있도록 설계되어야 합니다.

기업 환경에서 에이전트는 사내 문서와 업무 데이터베이스를 조회하고, 이전 업무에서 쌓인 메모리를 참고하며 일합니다. 기업 데이터가 현재 업무의 사실과 조건을 제공한다면, 메모리는 과거 업무에서 얻은 경험과 판단의 맥락을 제공합니다. 한 사용자의 대화와 선호를 중심으로 쓰이는 개인 비서용 에이전트와 달리, 기업에서는 여러 프로젝트와 사용자를 함께 고려해야 합니다. 그래서 정보의 변화와 접근 권한이라는 두 가지 문제가 중요해지는 것입니다.

엔터프라이즈 에이전트 메모리란?
그림 1. 엔터프라이즈 에이전트 메모리의 흐름.

먼저 짚어야 할 것은 메모리가 지금 업무에도 유효한가입니다. 기업의 정보는 문서, 데이터베이스, 회의록 등 여러 곳에 흩어져 있고 프로젝트마다 업무 조건도 다릅니다. 자료가 수정되거나 업무 상황이 바뀌면 과거의 판단을 그대로 믿기 어렵습니다. 이때 메모리에 결론만 남아 있다면, 그 판단이 어떤 근거에서 나왔는지부터 다시 찾아야 하죠. 그래서 판단의 근거가 된 자료와 당시 상황을 함께 기록해 두고, 이를 현재의 기업 데이터와 연결해 유효성을 확인할 수 있게 하는 것이 중요합니다.

접근 권한도 같은 무게로 다뤄야 할 문제입니다. 기업에서는 팀이나 직책에 따라 볼 수 있는 정보가 다릅니다. 한 직원이 자신의 권한으로 조회한 내용을 메모리로 남겼다고 해서, 권한이 없는 다른 직원에게 그 내용이 보여서는 안 됩니다. 그 메모리를 요약하거나 다른 메모리와 결합해 새로운 메모리를 만들더라도 원천 데이터의 접근 제한은 계속 적용되어야 합니다. 기업 데이터는 물론이고 그 데이터에서 만들어진 메모리를 쓸 때도, 지금 요청한 사람의 접근 권한을 확인하는 과정이 빠질 수 없는 이유입니다.

그래파이가 지향하는 엔터프라이즈 에이전트 메모리는 이런 기업 환경의 요구를 반영한 체계입니다. 메모리를 기업 데이터와 연결하고, 조직의 정책에 따라 생성부터 활용, 변경까지 관리합니다. 과거 업무에서 얻은 경험이 지금도 유효한지, 누구와 공유할 수 있는지 확인하는 것도 이 체계의 몫입니다. 그 위에서 여러 팀과 에이전트가 경험을 다시 쓸 수 있도록 하는 것이 목적입니다.

기업용 에이전트 메모리는 무엇을 갖춰야 하나

판단의 근거와 적용 조건, 사용 시점의 유효성과 접근 권한, 메모리의 변경·삭제 이력을 함께 관리해야 합니다.

첫째, 판단의 근거와 적용 조건을 함께 남겨야 합니다. 에이전트의 결론만 저장해 두면 나중에 그 판단을 다시 써도 되는지 알기 어렵습니다. 판단에 쓰인 데이터와 메모리의 출처·파생 관계를 추적할 수 있고 당시의 업무 환경과 검증 범위까지 기록돼 있어야, 다른 상황에서도 그 판단을 적용할 수 있을지 가늠할 수 있습니다.

둘째, 유효성과 접근 권한은 메모리를 쓰는 시점을 기준으로 확인해야 합니다. 메모리의 근거가 된 기업 데이터는 시간이 지나며 달라지기 마련입니다. 제품 버전이 바뀌어 기존 정보가 더는 맞지 않을 수도 있고, 계약 만료나 법적 제약으로 활용할 수 있는 범위가 좁아질 수도 있습니다. 데이터는 그대로인데 부서 이동이나 역할 변경으로 요청자의 접근 권한이 달라지는 경우도 있죠. 그래서 메모리를 꺼내 쓸 때마다 근거 데이터의 유효성과 이용 가능 범위, 현재 요청자의 접근 권한을 함께 따져 봐야 합니다. 특히 원천 데이터의 접근 제한이 파생 메모리에도 이어지도록 하는 '권한의 연속성(Authorization Continuity)'이 중요합니다.

셋째, 메모리의 변경과 삭제도 관리 대상입니다. 기업 데이터가 수정되면 그와 연결된 메모리도 영향을 받습니다. 이때 기업 데이터와의 연결 관계를 따라가면 검토가 필요한 메모리를 찾을 수 있고, 어떤 근거로 메모리가 바뀌었는지 이력도 추적할 수 있습니다. 삭제가 필요할 때는 살펴야 할 범위가 더 넓어집니다. 그 정보를 바탕으로 만들어진 요약이나 다른 메모리까지 삭제 범위를 확인하고, 삭제 과정과 결과를 기록해 두어야 나중에도 검증할 수 있습니다.

그래파이는 엔터프라이즈 에이전트 메모리를 어떻게 구현하는가

앞서 살펴본 요구를 구현하려면, 메모리를 관리하는 계층과 이를 뒷받침하는 데이터 처리 계층이 함께 필요합니다. 그림 2는 이를 그래파이의 아카식MEM(AkasicMEM)과 아카식DB(AkasicDB)로 구성한 구조입니다.

아카식MEM은 기업용 에이전트와 애플리케이션의 요청을 받아 관련 기업 맥락을 제공하는 에이전트 메모리 계층입니다. 메모리의 생성, 검색·반환, 변경, 삭제에 이르는 생명주기를 관리하고, 원천 데이터와 메모리, 파생 정보를 데이터 객체로 관리합니다. 여기에 출처 추적과 접근 권한 관리, 정책 적용을 결합해 메모리의 관리와 활용 범위를 통제합니다. 특히 원천 데이터에서 메모리로, 다시 파생 메모리로 이어지는 관계를 추적하고, 원천 데이터의 접근 정책이 파생 메모리에도 적용되도록 설계합니다.

아카식DB는 그래프·벡터·관계형 데이터베이스를 하나로 통합한 AI 네이티브 데이터베이스 엔진으로, 아카식MEM이 요청한 검색과 데이터 처리를 수행하는 기반입니다. 데이터베이스, 문서, ERP, MES, 슬랙 등 다양한 기업 내 데이터 원천과 연결될 수 있으며, 검색 결과와 데이터를 아카식MEM에 제공합니다.

그림 2. 아카식MEM과 아카식DB 기반의 엔터프라이즈 에이전트 메모리 아키텍처.

아카식DB에서 세 가지 데이터 처리 방식은 서로 다른 역할을 맡습니다. 그래프 탐색은 메모리의 출처와 파생 관계, 조직 내 권한 관계를 추적하고, 벡터 검색은 표현이 달라도 의미적으로 관련된 정보를 찾는 역할을 합니다. 관계형 처리는 고객이나 제품, 기간 등의 조건을 확인하고 기업 데이터를 연결하는 데 쓰입니다. 이를 통합하면 아카식MEM이 관련 메모리를 찾는 과정에서 적용 조건과 권한 정보를 하나의 질의로 한 번에 확인하도록 구현할 수 있습니다. 그래서 접근 권한이 없는 메모리를 에이전트에 전달하기 전에 걸러내도록 설계할 수 있습니다. 검색과 조건 검사를 함께 최적화해 데이터 이동과 불필요한 연산을 줄일 수 있으며, 여러 시스템을 연결하고 결과를 조합하는 복잡성도 줄일 수 있습니다.

데이터의 일관성도 중요합니다. 메모리만 저장되고 파생 정보나 관련 정책 정보가 빠지면, 나중에 그 메모리를 제대로 검증하기 어렵습니다. 아카식DB는 메모리와 관련 벡터 정보, 정책 정보, 파생 관계에 대한 연관된 변경을 하나의 트랜잭션, 즉 모두 성공하거나 모두 취소되는 작업 단위로 처리할 수 있도록 지원합니다.

결국 중요한 것은 메모리를 얼마나 많이 저장하느냐가 아니라, 저장된 경험을 현재의 기업 데이터와 연결해 실제 업무에 활용할 수 있느냐입니다. 아카식MEM은 메모리의 관리와 활용을 담당하고, 아카식DB는 이를 뒷받침하는 데이터 기반을 제공합니다.

그래파이는 VLDB 2026에서 이러한 엔터프라이즈 에이전트 메모리의 설계 방향을 소개했으며, 앞으로 실제 기업 환경에서 메모리의 재사용성과 업무 효율성 개선 효과를 검증해 나갈 계획입니다. 기업이 축적해 온 데이터와 AI 에이전트가 새롭게 얻은 업무 경험이 함께 다음 판단의 기반이 되는 것. 이것이 그래파이가 엔터프라이즈 에이전트 메모리로 실현하려는 방향입니다.


작성자

그래파이 배정민 (전문 엔지니어)

Share article