현재 대부분의 AI 에이전트는 개별 사용자 단위로 학습하여 팀

동료가 공들여 수정한 프롬프트와 피드백을 내가 다시 짜야 하는 상황이 반복된다. 현재 대부분의 AI 에이전트는 개별 사용자 단위로 학습하기 때문에 팀 내에서 지식이 공유되지 않는 한계가 있다. 한 팀원이 AI 에이전트의 성능을 높이기 위해 프롬프트를 수정하거나 피드백을 주고 컨텍스트를 개선해도, 그 성과는 해당 사용자에게만 귀속된다. 동료가 동일한 도구를 사용하는 순간 앞선 개선 사항은 모두 사라지며 다음 사용자는 다시 제로 베이스에서 시작해야 한다. 이러한 개별 학습 구조는 여러 에이전트가 협업하는 멀티 에이전트 워크플로우에서 작업 중복을 야기한다. 결과적으로 팀 전체의 출력물은 일관성을 잃고 작은 오류가 전체 프로세스로 확산되는 결과를 초래한다.

기업이 AI 메모리를 설계하는 방식은 개인 중심의 맞춤형 메모리와 팀 중심의 공유 메모리로 구분된다. 마이크로소프트 코파일럿(Microsoft Copilot, MS 365 통합 AI 비서)은 개인 우선 방식을 취한다. 사용자가 조직 내에서 맡은 역할과 선호하는 말투, 구체적인 작업 패턴을 학습하여 이를 개인 메모리로 저장한다. 이렇게 저장된 데이터는 사용자가 마이크로소프트 365의 다양한 서비스 화면을 이동하며 사용할 때 개별적으로 적용된다. 반면 아사나(Asana, 협업 관리 플랫폼)는 접근 방향이 다르다. 개별 사용자의 취향보다는 팀 전체가 공유해야 할 제도적 지식을 자동으로 구축하는 공유 메모리 레이어를 만드는 데 집중한다. 개인의 편의를 넘어 팀의 집단 지성을 AI가 기억하게 만드는 구조다.

지식 노동자의 높은 AI 사용률에도 불구하고 기업의 실제

동료가 이미 해결한 프롬프트를 내가 다시 짜거나, AI에게 매번 똑같은 피드백을 반복하며 시간을 낭비하는 일이 잦다. 개별 사용자는 AI를 능숙하게 다루는 것처럼 보이지만, 그 노하우가 조직 내에서 공유되지 않고 파편화되어 있기 때문이다. Asana(아사나, 협업 툴 기업)의 연구 결과는 이러한 괴리를 구체적인 수치로 증명한다. 지식 노동자의 75%가 업무에 AI를 사용하고 있음에도 불구하고, 실제로 생산성 향상을 보고한 기업은 5%에 불과하다. 대다수 인원이 도구를 사용하고 있지만, 정작 기업 차원의 실질적인 이득으로 연결된 사례는 극소수라는 사실을 보여준다.

이런 격차는 AI 모델이 기본적으로 상태가 없는 stateless(상태 없음) 구조로 설계되었다는 기술적 특성에서 기인한다. 모델 자체는 사용자와의 이전 상호작용이나 특정 맥락을 스스로 저장하지 못한다. 따라서 메모리 기능은 컨텍스트 윈도우(AI가 한 번에 처리할 수 있는 정보의 범위) 외부의 전용 레이어로 별도 구현해야만 실질적인 기억 장치로 작동한다. AI 혁신이 이 분야의 성숙도를 높이는 방향으로 빠르게 진행되고 있음에도 불구하고, 구체적으로 어떤 데이터를 저장하고 누가 이를 제어할 것인지에 대한 기준은 여전히 모호하다. 특히 서로 다른 에이전트와 사용자가 동일한 인스턴스에 정보를 기록할 때 어떻게 일관성을 유지할 것인지는 여전히 해결해야 할 과제로 남아 있다. 결국 AI 에이전트 도입의 성패는 개인별 최적화가 아니라 팀 단위로 작동하는 공유 메모리 구조를 확보했는지에 달려 있다.

기술이 실제로 작동하는 방식

동료가 이미 고쳐놓은 프롬프트를 내가 다시 짜거나, AI에게 매번 똑같은 피드백을 반복하며 시간을 쓰는 상황이 빈번하다. 지식 노동자의 75%가 AI를 사용하지만 실제 생산성 이득을 본 기업은 5%뿐이라는 Asana(아사나, 협업 툴 기업)의 조사 결과는 이 지점을 가리킨다. 대규모 언어 모델은 기본적으로 상태가 없는 stateless(상태 없음) 특성을 가져 컨텍스트 윈도우 외부의 전용 메모리 레이어가 필수적이다. Asana는 이를 해결하기 위해 팀 전체에 수정 사항이 적용되는 공유 메모리 기반의 Agentic Work Management(에이전트 기반 업무 관리) 플랫폼을 구축했다.

컨텍스트 그래프(context graph)를 통해 팀원 중 한 명이 에이전트를 수정하면 그 내용이 팀 전체에 즉시 적용된다. 모든 팀원이 프롬프트 엔지니어링이나 컨텍스트 엔지니어링 전문가가 될 필요 없이 에이전트를 활용할 수 있는 구조다. 개별 사용자가 AI를 길들이는 시간을 줄이고 조직 전체의 정답지를 실시간으로 업데이트하며 협업 효율을 높인다.

플랫폼 도입을 검토하는 엔지니어링 및 오케스트레이션 팀에게 공유 메모리 지원 여부는 이제 단순한 기술적 편의가 아닌 핵심 구매 기준(procurement criterion)이 됐다. 개인별로만 학습하는 에이전트는 지속적인 개별 관리가 필요해 운영 비용이 늘어나는 한계가 있다. 반면 팀 공유 메모리 레이어에 연결된 에이전트는 조직의 제도적 지식(institutional knowledge)을 자동으로 구축한다. AI 에이전트를 도입할 때 개인별 최적화가 아닌 팀 단위 공유 메모리 구조를 갖췄는지 확인하는 것이 실질적인 생산성 확보의 판단 기준이 된다.

동료가 이미 해결한 프롬프트를 다시 짜거나 AI에게 매번 같은 피드백을 반복하는 상황이 빈번하다. 지식 노동자의 75%가 AI를 사용하지만 생산성 이득을 본 기업은 5%뿐이라는 Asana의 조사 결과는 이러한 파편화된 경험의 한계를 보여준다.

이는 모델의 stateless 특성으로 인해 컨텍스트 윈도우 외부의 전용 메모리 레이어가 필요하기 때문이다. 이제 AI 에이전트 도입의 실질적인 판단 기준은 개인별 최적화가 아닌 팀 단위 공유 메모리 구조를 갖췄는지로 바뀐다.