에이전트 실행 환경으로 AWS Amazon Bedrock 활용

특정 AI 모델 하나에 업무 전체를 의존하다가 서비스 장애가 발생하면 팀 전체의 작업이 마비될 수 있다. 리버티 뮤추얼(Liberty Mutual)은 특정 모델의 성능 저하나 가격 변동에 즉각 대응해 업무 연속성을 유지하고자 벤더 종속성을 제거하는 설계를 도입했다.

에이전트 실행 런타임으로는 AWS의 Amazon Bedrock AgentCore를 사용한다. 리버티 뮤추얼은 이를 전략적 중심지가 아닌 에이전트 실행 전용 용도로만 활용한다. 여러 프레임워크를 지원해 특정 모델에 의존하지 않는 모델 불가지론(model-agnostic) 철학을 구현하기에 적합하다는 점이 선택 근거가 됐다.

비즈니스 계약 방식에서도 유연성을 확보했다. 기업 계약 기간을 기존 5년에서 1년으로 단축했다. AI 시장의 변화 속도가 빨라 특정 벤더나 프레임워크에 장기간 묶이는 것은 불합리하다고 판단했기 때문이다. 1년 단위 계약을 통해 모델과 플랫폼을 상시 평가하고 즉각 교체할 수 있는 체계를 구축했다.

벤더 종속성을 제거하는 유연한 AI 백본 구조

이러한 유연한 운영 체계는 구체적인 기술 아키텍처인 'AI 백본'을 통해 구현된다. 리버티 뮤추얼은 시스템 전체를 관리하고 조율하는 제어 평면(control plane)인 AI 백본을 구축했다. 이 아키텍처는 보안, ID, 오케스트레이션, 도구 제한 및 에이전트 행동 정책 관리 등 약 50개의 독립 컴포넌트로 구성된다. 모든 요소가 독립적으로 설계되어 필요 시 즉시 교체할 수 있어 상호 운용성을 확보했다.

단일 에이전트의 한계를 해결하기 위해 6개의 전문 에이전트가 협업하는 소프트웨어 팩토리를 운영한다. 상위 요구사항을 처리하는 Epic, 이를 세분화하는 Story, 기술 실행 계획을 세우는 Planning, 실제 구현과 검증을 맡는 Coding/Testing 에이전트가 순차적으로 협업한다. 여기에 전체 과정을 감시하는 Triage(Critic)와 정보 검색을 돕는 Librarian 에이전트가 더해져 파이프라인을 구성했다. 역할 분리를 통해 모델이 한 번에 처리해야 할 컨텍스트 윈도우(context window)를 줄이고 작업 범위를 정밀하게 제한했다.

에이전트 파이프라인 도입으로 개발 기간 3개월 분량을 1주일로 단축

에이전트 파이프라인을 실제 생산 공정에 투입한 결과, 초기 배포 당시 약 3개월 분량의 작업을 1주일 만에 완료했다. 작업 단계 간 인수인계(핸드오프)로 인해 발생하던 대기 시간을 기술적 파이프라인으로 대체해 생산성을 높인 결과다.

소프트웨어 팩토리는 인간 감독자의 판단 속도에 맞춘 반복적 루프 방식으로 구동된다. 초기에는 시스템 가동 리듬을 맞추기 위해 주간과 야간 교대 방식으로 운영했으나, 현재는 사용자가 실행 시점, 일시 중지 지점, 출력물 검토 시점을 직접 결정하는 제어 방식으로 전환했다. 팩토리가 1시간 미만으로 작동한 뒤 사용자가 결과물을 확인하고 다음 단계를 지시하는 정밀 제어 루프를 통해 소프트웨어 품질과 속도를 제어한다.

OpenAI나 Anthropic 같은 특정 모델의 장애가 곧 업무 마비로 이어지는 리스크는 이제 실무적인 위협이다. 리버티 뮤추얼은 50여 개의 독립 컴포넌트로 구성된 AI 백본과 Epic, Story 등 6개의 특화 에이전트 파이프라인을 통해 이 종속성을 끊어냈다.

판단 기준은 모델의 개별 성능이 아니라, 가격과 성능 변동에 즉각 대응하는 모델 불가지론 아키텍처와 단기 계약 전략의 실행 여부다. AI 도입의 성패는 어떤 모델을 쓰느냐가 아니라, 언제든 모델을 갈아 끼울 수 있는 구조를 확보했는가로 결정된다.