주니어 분석가에게 시니어의 능력을 부여한 AI 에이전트 도입

보안 및 감사, 컴플라이언스 관련 수작업 부담을 최대 50% 감소시켰다. 이는 숙련된 시니어 분석가가 매달 쏟아붓던 단순 반복 분석 시간을 주니어 분석가가 대체할 수 있게 되었음을 의미한다. Axonius(엑소니어스, 자산 인텔리전스 플랫폼 기업)는 이를 위해 고객별로 전용 AgentCore(에이전트코어, AI 에이전트 실행 환경) 런타임을 배포하는 실로(Silo, 격리) 모델을 선택해 인프라 수준의 데이터 격리를 달성했다. 분석가의 숙련도에 따라 결과값의 품질이 크게 갈리던 기존의 수작업 워크플로를 AI 에이전트 기반의 표준화된 프로세스로 전환하여 인적 자원 활용의 효율을 높였다.

Axonius는 1,400개 이상의 서로 다른 시스템 데이터를 하나의 신뢰할 수 있는 소스로 통합해 관리하는 자산 인텔리전스 플랫폼을 운영한다. 수십 개의 통합 소스에서 발생하는 수백만 개의 데이터 포인트가 실시간으로 유입되며, 이를 사람이 직접 분석해 보안 취약점이나 컴플라이언스 위반 사례를 찾아내는 것은 매우 고된 작업이다. AI 에이전트는 이 방대한 데이터 집합을 직접 훑으며 복잡한 상관관계를 분석하고 정답을 도출한다. 데이터의 양이 기하급수적으로 늘어날수록 분석 진입장벽이 높아지는 문제를 AI의 처리 능력으로 해결함으로써 분석 업무의 진입장벽을 낮추는 효과를 가져왔다.

기존 워크플로에서는 복잡한 분석 요청이 들어올 때마다 시니어 분석가가 수 시간 동안 데이터를 정제하고 대조하는 수작업을 직접 수행해야 했다. 하지만 AI 에이전트 도입 이후에는 주니어 분석가가 시니어의 수작업 없이도 동일한 수준의 복잡한 분석을 수행할 수 있게 되었다. 시니어 분석가가 수 시간 동안 매달려야 했던 데이터 대조 작업이 AI 에이전트의 쿼리 한 번으로 대체되었다. 시니어 분석가의 도메인 지식이 AI의 추론 능력과 결합하면서 분석 프로세스의 고질적인 병목 현상이 해소되었다. 실무자는 더 이상 데이터 수집과 단순 대조라는 물리적 노동에 시간을 쓰지 않고, AI가 도출한 결과값을 검증하고 대응 전략을 세우는 고차원적인 업무에 집중한다.

소프트웨어 벤더(ISV, 독립 소프트웨어 공급업체)로서 Axonius는 개별 고객사가 요구하는 엄격한 보안 및 감사 기준을 충족해야 하는 제약이 있었다. ISV는 일반 기업과 달리 여러 조직에 서비스를 제공하므로, 보안, 확장성, 시장 출시 속도, 비용 추적과 같은 과제를 개별 테넌트(Tenant, 서비스 이용 단위) 수준에서 관리해야 한다. Axonius는 단순히 AI의 추론 성능을 높이는 것보다 고객별로 완전히 독립된 실행 환경을 제공하는 것을 우선순위로 두었다. 실로 모델은 인프라 수준에서 테넌트를 물리적, 논리적으로 분리함으로써 한 고객의 데이터나 워크로드가 다른 고객에게 영향을 줄 가능성을 원천 차단한다. 이는 성능 최적화보다 데이터 안전성과 규제 준수를 우선시하는 기업용 AI 서비스의 실무적인 판단 기준이 된다.

전용 런타임과 VPC를 활용한 실로(Silo) 모델 구현 방식

실로 모델은 고객마다 전용 Amazon Bedrock AgentCore 런타임을 할당해 테넌트 간 컴퓨팅 자원을 완전히 분리하는 구조다. 각 고객의 워크로드는 전용 Amazon VPC(가상 프라이빗 클라우드, AWS 내 독립된 가상 네트워크) 내에 개별적으로 배치된다. 이 방식은 단일 런타임을 여러 고객이 공유하는 풀 모델과 달리, 테넌트당 전용 에이전트를 배치해 실행 환경을 독립시킨다. 서로 다른 고객이 동일한 연산 자원을 공유하지 않으므로 데이터가 섞일 위험을 인프라 수준에서 원천적으로 차단한다.

인프라 배포와 관리는 AWS CloudFormation(코드형 인프라 서비스)과 CDK(Cloud Development Kit, 프로그래밍 언어로 인프라를 정의하는 도구)를 통해 자동화했다. 새로운 고객이 시스템에 등록되면 미리 정의된 인프라 템플릿이 호출되어 전용 런타임과 VPC 환경을 자동으로 프로비저닝한다. 서비스 이용이 종료된 고객의 리소스 역시 동일한 자동화 파이프라인을 통해 즉시 제거하여 불필요한 비용 발생을 막는다. 수작업 없이 수백 개의 독립된 고객 환경을 일관된 설정으로 유지하며 운영의 복잡성을 낮췄다.

데이터 처리 워크플로는 Claude 모델 기반의 추론으로 시작해 Bedrock Knowledge Base의 지식 추출 단계로 이어진다. Knowledge Base는 기업 내부 데이터를 AI가 참조할 수 있도록 인덱싱하는 검색 증강 생성(RAG) 서비스다. AI가 필요한 지식을 추출하면 이는 다시 해당 고객에게만 할당된 전용 API 호출로 연결되어 최종 결과물을 생성한다. 추론부터 지식 검색, 외부 시스템 호출까지의 모든 데이터 흐름이 특정 고객의 전용 인프라 내에서만 완결되도록 설계했다.

최종적인 접근 제어는 IAM(Identity and Access Management, AWS 리소스 권한 관리 서비스)의 리소스 기반 정책으로 강제한다. 런타임과 엔드포인트에 설정된 정책은 동일 계정 내의 역할이나 교차 계정 ID(다른 AWS 계정의 사용자) 중 허가된 주체만 에이전트를 호출할 수 있도록 엄격하게 제한한다. 정책에 명시되지 않은 모든 요청은 런타임 진입 단계에서 즉시 거부된다. 인프라 수준의 완전한 격리 증명이 필수적인 고보안 요구 사항을 충족하는 실무적인 판단 기준이 된다.

실로, 풀, 브릿지: 멀티테넌트 AI 에이전트의 3가지 격리 패턴

실로 모델은 테넌트별로 전용 런타임을 할당해 물리적 및 논리적 격리를 구현한다. IAM(Identity and Access Management, ID 및 액세스 관리) 기반의 리소스 정책을 통해 각 고객의 데이터와 실행 환경을 완전히 분리하는 구조다. 고객마다 독립적인 인프라 영역을 가지므로 특정 테넌트에서 발생하는 리소스 과부하가 다른 테넌트의 성능에 영향을 주지 않는다. 인프라 수준의 엄격한 격리 증명이 필수적인 금융이나 의료 분야처럼 보안 요구사항이 극단적으로 높은 환경에서 주로 선택한다. 관리해야 할 런타임 개수가 늘어나는 운영 부담이 있지만 보안 강도는 가장 확실하다.

풀 모델은 단일 공유 런타임을 사용하되 세션당 전용 microVM(마이크로 가상 머신)을 할당해 실행 단위를 격리한다. 인증 과정에서는 Amazon Cognito와 같은 OAuth 2.0 ID 제공자를 통해 JWT(JSON Web Token, JSON 웹 토큰)를 발급받아 사용한다. 이 토큰 내의 테넌트 클레임, 예를 들어 `custom:tenant_id` 같은 식별자를 통해 데이터 라우팅을 수행한다. 런타임에 내장된 JWT 인증자가 설정된 discovery URL에서 공개 키를 가져와 토큰의 발행자를 검증하면, 에이전트 코드가 이 클레임을 읽어 정확한 테넌트 환경으로 도구 호출과 데이터 접근을 연결한다. 개별 런타임을 모두 생성하는 비용을 줄이면서 세션 수준의 격리를 유지해 운영 효율을 극대화한 방식이다.

브릿지 모델은 공유 런타임 환경에서 AgentCore Gateway를 통해 도구 호출 수준의 격리를 강제한다. 여기서는 Cedar(세더, AWS의 정책 언어) 정책과 인터셉터를 조합해 접근 제어를 수행한다. 게이트웨이는 Cedar 정책을 평가하기 직전에 인터셉터를 먼저 실행하여 요청 컨텍스트에 필요한 추가 정보를 채워 넣는 과정을 거친다. 이렇게 보강된 컨텍스트를 바탕으로 Cedar 정책이 최종적으로 도구 호출의 허용 여부를 결정하며, 이를 통해 테넌트 간의 간섭을 막는다. 인프라 전체를 물리적으로 분리하지 않고도 API나 함수 호출 단계에서 정밀하게 권한을 제어할 수 있어 개발 및 배포 속도가 빠르다.

운영 효율성과 보안 강도 사이의 트레이드오프에 따라 세 가지 아키텍처 중 하나를 선택한다. 완전한 물리적 격리가 필요하면 실로를, 세션 단위의 효율적 분리가 필요하면 풀을, 기능 단위의 세밀한 제어가 필요하면 브릿지 모델을 적용하는 것이 실무적인 판단 기준이다.

프라이빗 네트워킹과 JWT 기반의 신뢰 경계 설정

추론과 지식 검색, 가드레일 처리는 Amazon Bedrock에서 수행하고 원본 데이터와 ID 정보는 고객의 VPC(가상 프라이빗 클라우드) 내에 그대로 유지한다. 모든 통신 단계는 AWS 프라이빗 네트워킹을 통해 이루어지며 외부 인터넷망을 거치지 않고 내부망으로만 데이터가 흐른다. 데이터의 소유권과 관리 권한은 고객이 직접 통제하는 VPC에 두고 AI의 연산 능력과 지식 추출 기능만 Bedrock에서 호출해 사용하는 구조다. Bedrock과 VPC 사이의 모든 홉(Hop, 데이터 전송 단계)이 프라이빗하게 연결되어 있어 데이터가 전송되는 경로 자체를 신뢰 구역으로 묶었다.

에이전트는 데이터베이스나 API에 접근하기 위한 장기 자격 증명을 자체적으로 보유하지 않는다. 대신 요청이 들어온 생명주기 동안만 사용자의 JWT(JSON Web Token, 사용자 인증 정보를 담은 디지털 토큰)를 대여해 필요한 자원에 접근한다. 요청 처리가 완료되면 대여한 권한은 즉시 소멸하며 에이전트 내부에는 어떤 인증 키도 남지 않는다. 관리자가 서버에 API 키를 저장하거나 환경 변수로 관리하는 기존 방식과 달리, 요청 시점에만 유효한 임시 권한을 사용하는 방식이다. 만약 에이전트 런타임이 침해당하더라도 공격자가 탈취할 수 있는 영구적인 접근 키가 없으므로 보안 사고의 영향을 최소화할 수 있다.

사용자 세션과 메모리, 도구 호출, 네트워크 경로 전체를 단일 테넌트로 범위 제한하여 상호 간섭을 막는다. 테넌트는 소프트웨어 서비스에서 자원을 공유하는 개별 고객 단위를 의미하며, 모든 요청 흐름이 이 단위 내에서만 움직이도록 강제한다. 특정 사용자의 AI 대화 맥락이 저장된 메모리가 다른 고객의 요청으로 인해 노출되거나, 도구 호출 과정에서 타 테넌트의 API 엔드포인트로 경로가 이탈하는 상황을 방지한다. 인프라의 네트워크 경로와 애플리케이션의 세션 관리 계층 모두에서 신뢰 경계를 설정했다. 이를 통해 멀티테넌트 환경에서도 단일 고객 전용 환경과 동일한 수준의 논리적 격리를 구현했다.

한국 B2B SaaS 실무자를 위한 AI 에이전트 격리 전략 판단 기준

실로 모델은 고객사마다 전용 런타임을 할당하고 가상 프라이빗 클라우드(VPC) 내에 독립적인 워크로드를 배치하는 구조다. 각 고객은 자신만의 에이전트를 가지며 Claude 모델 기반의 추론과 전용 지식 베이스 접근 권한을 독립적으로 부여받는다. 이후 고객 전용 API 호출로 이어지는 워크플로를 통해 데이터를 처리하며 예를 들어 지난주 대비 자산 수의 주요 변경 사항을 묻는 질문에 대해 해당 고객의 데이터만 참조해 답변한다. 인프라 수준에서 물리적 또는 논리적 격리를 명확히 증명해야 하는 환경에 가장 적합하며 데이터 혼입 가능성을 원천 차단하려는 보수적인 보안 요구사항을 충족한다.

풀 모델은 단일 공유 런타임을 사용하며 JWT(JSON Web Token)의 테넌트 클레임을 통해 데이터를 라우팅하는 방식이다. 세션마다 전용 microVM을 할당해 자원 효율성을 극대화하고 운영 구조를 단순화한다. 빠른 시장 진입이 필요하거나 인프라 관리 비용을 최소화해야 하는 서비스에 유리하며 OAuth 2.0 ID 제공자를 통해 JWT 검증을 수행한다. 공유 인프라를 활용해 배포 속도를 높이면서도 세션 단위의 격리를 유지하는 것이 핵심이며 이는 개발 및 운영 리소스를 줄여야 하는 초기 제품 단계에서 유효하다.

브릿지 모델은 공유 런타임을 사용하되 게이트웨이 단계에서 도구 호출 수준의 격리를 강제한다. 응답 인터셉터가 테넌트 식별자를 기반으로 도구 검색 결과를 필터링해 접근을 제한하는 메커니즘을 가진다. 인프라 전체를 격리하기에는 비용 부담이 크지만 특정 API 호출이나 도구 사용 권한을 엄격히 제어해야 하는 중간 단계의 보안 수준에 적합하다. 공유 인프라의 효율성과 도구 수준의 세밀한 통제권을 동시에 확보하려는 전략이며 인프라 격리보다는 애플리케이션 수준의 제어에 집중한다.

국내 B2B SaaS 실무자는 금융이나 공공 분야의 컴플라이언스 요구사항을 우선 고려해야 한다. 테넌트 간 데이터 혼입 허용 범위가 매우 좁고 고객사별로 서로 다른 맞춤형 설정 요구가 빈번하게 발생한다. 운영 비용 증가보다 데이터 격리 증빙 실패로 인한 계약 리스크가 더 크기 때문에 인프라 수준의 격리가 보장되는 모델이 실질적인 선택지가 된다. 특히 고객사 내부망과의 연동이나 전용 엔드포인트 요구가 많을수록 실로 모델의 효용이 커지며 이는 국내 기업 고객의 전형적인 보안 요구사항과 일치한다.

데이터 격리 증빙 요구 수준이 높고 고객별 맞춤 설정이 필수적인 환경이라면 운영 비용보다 인프라 수준의 완전 격리를 제공하는 실로 모델을 선택하라.