수백만 건의 업무를 추적하는 '케이스 관리'의 도입

AI 에이전트를 PoC(개념 증명) 단계에서 구축하면 개별 송장 처리나 티켓 분류는 매끄럽게 작동한다. 하지만 실제 운영 환경에서 수천에서 수백만 개의 작업 항목을 처리하면 오류 발생 지점이나 병목 구간을 찾는 것이 매우 어렵다. 아마존 퀵 오토메이트(Amazon Quick Automate)는 이를 해결하기 위해 업무 단위를 '케이스(Case)'로 정의하는 네이티브 케이스 관리 기능을 제공한다. 모든 작업 항목을 생애주기 내내 유지되는 하나의 케이스로 취급하여 상태 추적, 병렬 실행, 인간 개입을 통합 관리한다.

이 체계는 프로덕션 환경을 대상으로 설계되었으며, 구현을 위해서는 아마존 퀵(Amazon Quick) 접근 권한과 특정 AWS 리전(Region) 설정이 필수적이다. 특히 워크플로 작성 권한을 위한 엔터프라이즈(Enterprise) 라이선스는 서비스 수준 협약(SLA) 준수가 필수적인 기업용 워크플로에서 운영 가시성과 제어권을 확보하기 위한 전제 조건이다.

케이스는 개별 업무를 추적하는 최소 단위다. '케이스 유형(Case Type)'은 송장이나 보험 청구처럼 성격이 유사한 업무를 묶는 컨테이너 역할을 하며, '참조 이름(Reference Name)'이라는 고유 식별자로 각 항목을 구분한다. 비즈니스 정보는 키-값(Key-Value) 형태의 '커스텀 데이터 필드'에 저장되어 다양한 데이터 형식을 수용한다. 시스템은 여기에 현재 단계(상태 값), 실패 시 예외 상세 정보, 실행 로그 등의 메타데이터를 자동으로 생성한다. 이를 통해 관리자는 수만 건의 요청 중 어느 지점에서 프로세스가 멈췄고 왜 실패했는지를 데이터 기반으로 즉각 파악할 수 있다.

케이스 생성자-처리자 패턴과 5가지 핵심 액션

아마존 퀵 오토메이트는 대규모 데이터 처리를 위해 케이스 생성자와 처리자를 분리한 구조를 택했다. '케이스 생성자(Case Creator)'는 엑셀, 데이터베이스, 웹 애플리케이션에서 데이터를 수집해 케이스로 변환하고, '케이스 처리자(Case Processor)'는 이를 소비해 워크플로를 실행한다. 처리자를 여러 개 배치해 병렬로 가동함으로써 업무 부하에 따라 처리량을 동적으로 확장할 수 있다.

데이터 입력 단계에서는 두 가지 액션을 제공한다. `Create New Case`는 API 호출이나 티켓 생성 같은 개별 이벤트 발생 시 사용하며 상태를 Ready로 설정한다. `Create Multiple Cases`는 CSV나 스프레드시트의 대량 데이터를 가져오는 벌크 임포트 시 활용해 각 행을 개별 케이스로 매핑한다.

워크플로 진행 중 데이터를 수정할 때는 `Update Cases` 액션을 사용한다. 이 액션은 상태가 In Progress인 케이스에서만 작동하며 처리 결과나 감사 타임스탬프를 기록한다. 업데이트된 정보는 다음과 같은 경로로 접근한다.

updated_case["custom_data"]["key_name"]

특정 케이스를 동적으로 찾아야 할 때는 `Search Cases` 액션으로 케이스 유형, 참조 ID, 상태 기반의 필터링 쿼리를 수행한다. 판단이 필요한 지점에서는 `Create User Task` 액션으로 인간 개입(HITL, Human-in-the-loop)을 구현한다. 이 액션은 케이스 상태를 Pending Resolution으로 변경해 리뷰어에게 전달하며, 리뷰어가 태스크 센터에서 작업을 완료하면 케이스는 다시 Ready 상태로 복귀해 프로세스를 재개한다.

현장에서 달라지는 비용과 판단

수만 건의 데이터를 처리하는 환경에서는 처리 지연으로 발생하는 기회비용이 추론 비용보다 더 크다. 아마존 퀵 오토메이트는 병렬 실행(Parallel Processing)을 통해 처리량을 늘려 SLA를 준수한다. 관리자는 실시간 추적을 통해 병목 지점을 조기에 발견하고 지연이 비즈니스 결과에 영향을 주기 전 개입할 수 있다.

규제가 엄격한 금융이나 보험 산업에서는 AI의 결정 근거를 증명하는 감사 비용이 중요하다. 모든 액션과 상태 전환, 결정 사항은 케이스 히스토리에 기록되어 감사(Audit)와 컴플라이언스 대응의 근거가 된다. 또한 파편화된 이메일 대신 케이스 컨텍스트 내에서 중앙 집중식으로 협업함으로써 커뮤니케이션 비용을 낮추고 인수인계 시 정보 누락으로 인한 손실을 줄인다.

판단이 모호한 지점에서 AI가 임의로 결정해 발생하는 오류 수정 비용을 방지하기 위해 HITL 기능을 활용한다. 인간의 판단이 시스템의 일부로 편입되면 자동화의 신뢰도를 높이는 동시에 운영 리스크를 제어할 수 있다. 이는 에이전트의 개별 답변 품질을 넘어, 전체 워크플로의 가시성과 제어권을 확보하는 운영의 문제로 전환됨을 의미한다.

한국 AI 현장에서 볼 지점

많은 한국 기업이 PoC 수준에서 에이전트를 구현했지만, 실제 수만 건의 데이터를 처리할 때 프로세스 중단 원인을 찾기 위해 수많은 로그를 뒤져야 하는 한계에 부딪힌다. 따라서 관리의 핵심은 '에이전트가 답을 잘 하는가'에서 '어디서 멈췄고 왜 실패했는가'를 파악하는 것으로 이동해야 한다.

송장 처리, 보험금 청구 심사, 고객 지원 티켓 분류처럼 정형 데이터와 비정형 데이터가 혼재된 업무가 대표적이다. 단순한 LLM 래퍼(Wrapper) 수준으로는 데이터 일관성을 유지하며 대규모 프로세스를 자동화하기 어렵다.

실제 비즈니스 프로세스를 자동화하려면 결정론적 자동화(Deterministic Automation)와 에이전트 기반 자동화의 결합이 필요하다. 입력값에 따라 결과가 고정되어야 하는 구간은 정해진 규칙에 따라 처리하고, 유연한 판단이 필요한 구간에만 에이전트를 배치해 제어권을 확보하는 전략이 유효하다.

AI 에이전트를 PoC 단계에서 구현했을 때 겪는 가장 큰 어려움은 수만 건의 데이터 처리 중 발생하는 오류 지점을 정확히 찾아내지 못한다는 점이다. 아마존 퀵 오토메이트가 제공하는 네이티브 케이스 관리와 생성자-처리자 분리 아키텍처는 이러한 운영상의 불투명성을 제거한다. 이제 기업용 AI 도입의 판단 기준은 단순한 답변 품질을 넘어, SLA 준수를 위해 전체 워크플로의 가시성과 제어권을 얼마나 확보했는가로 옮겨간다.