아마존 퀵과 엔비디아 네모, 대시보드 너머의 '행동'을 연결하다

대시보드는 무엇이 잘못되었는지는 정확히 보여주지만, 그것을 어떻게 해결해야 하는지는 말해주지 않는다. 공급망 관리자는 지연 발생 수치를 확인한 뒤, 구매 주문서와 재고 현황, 고객 약속, 계약 규칙, 물류 옵션, 승인 정책을 일일이 엑셀과 메일로 대조하며 대응책을 짜야 한다. 아마존 퀵(Amazon Quick)과 엔비디아 네모 에이전트 툴킷(NVIDIA NeMo Agent Toolkit)은 현황 파악과 실제 행동 사이에 놓인 수동 작업의 간극을 자동화된 에이전트 워크플로로 연결한다.

아마존 퀵은 기업의 구조화 데이터와 비구조화 지식을 통합하는 대화형 워크스페이스다. 아마존 S3뿐만 아니라 구글 드라이브, 마이크로소프트 쉐어포인트, 아틀라시안 컨플루언스, 내부 웹 콘텐츠까지 다양한 지식 소스를 하나로 묶어 비즈니스 사용자가 대화로 접근하게 만든다. 여기에 마이크로소프트 아웃룩, 슬랙, 지라, 아사나 등 100개 이상의 사전 구축된 액션 커넥터를 제공한다. 분석가는 대시보드에서 확인한 리스크를 바탕으로 별도의 툴 전환 없이 즉시 외부 시스템에서 협업 요청을 보내거나 티켓을 생성할 수 있다.

백엔드에서 이 모든 실행 경로를 제어하는 엔진은 엔비디아 네모 에이전트 툴킷이다. 이는 에이전트 워크플로의 연결과 평가, 프로파일링, 최적화를 지원하는 오픈소스 라이브러리다. 랭체인(LangChain), 라마인덱스(LlamaIndex), 크루AI(CrewAI), 마이크로소프트 시맨틱 커널(Microsoft Semantic Kernel), 구글 ADK는 물론 커스텀 파이썬 에이전트와도 함께 사용할 수 있다. 개발자는 이 툴킷을 통해 에이전트가 도구를 호출하는 순서와 결과의 정확도를 측정하고, 비즈니스 요구사항에 맞게 워크플로를 튜닝한다.

MCP 게이트웨이를 통한 '진단'과 '실행'의 이분법적 흐름

Amazon Quick은 문제 파악 과정을 '진단 흐름(Diagnostic flow)'으로 처리한다. 사용자가 상황을 물으면 Amazon Quick이 대시보드 수치와 Amazon S3에 저장된 지식 소스를 직접 분석해 답변한다. [Figure 2] 데이터 확인과 원인 분석 단계를 자동화해 실무자가 수동으로 자료를 취합하는 시간을 줄이는 방식이다.

상황 파악 이후 실제 도구를 움직여야 하는 단계에서는 '실행 흐름(Action flow)'이 작동한다. Amazon Quick은 이 요청을 받으면 MCP(Model Context Protocol, 모델 컨텍스트 프로토콜) 액션을 호출한다. MCP는 AI 모델이 외부 도구나 데이터에 표준화된 방식으로 접근하게 돕는 인터페이스다. [Figure 3] 이를 통해 AI는 단순한 답변 생성을 넘어 기업 내부의 특정 기능을 실행하는 에이전트로 기능한다.

실행 요청은 Amazon Quick에서 시작해 Amazon Bedrock AgentCore Gateway(MCP 게이트웨이)를 거쳐 AgentCore Runtime이라는 컨테이너 호스팅 환경에 도달하며, 여기서 최종적으로 NVIDIA NeMo Agent Toolkit 워크플로가 구동된다. [Figure 1] 프론트엔드인 Amazon Quick은 사용자의 의도를 파악하고, 백엔드인 NeMo Agent Toolkit은 복잡한 공급망 리스크 진단과 완화 계획 수립이라는 실질적인 업무를 수행한다. 요청이 게이트웨이를 거쳐 런타임 컨테이너까지 도달하는 과정에서 보안 인증과 실행 환경 제어가 함께 이루어진다.

이러한 이분법적 흐름은 AI가 잘못된 도구를 호출해 엉뚱한 답을 내놓는 환각 현상을 방지한다. 지식 기반의 답변이 필요한 시점에는 S3의 문서와 대시보드 데이터만 참조하고, 실제 조치가 필요한 시점에만 MCP 게이트웨이를 통해 백엔드 엔진을 호출하기 때문이다. 결과적으로 사용자는 툴 사이를 이동하며 겪는 컨텍스트 스위칭 없이 대화형 인터페이스 하나로 진단과 실행을 완결하게 된다.

명시적 설계를 통한 에이전트 제어권 확보

NVIDIA NeMo Agent Toolkit은 LLM의 자율적 판단에만 의존하던 기존 방식에서 벗어나, 워크플로를 명시적인 설계 영역으로 끌어내어 개발자에게 제어권을 부여했다. 백엔드 구조를 등록된 함수, 워크플로 설정 파일, 오케스트레이터라는 3계층으로 분리해 관리한다.

등록된 함수는 구매 주문 리스크, 재고 노출, 고객 영향, 정책 조회, 물류 옵션, 완화 권장 사항처럼 개별 기능을 수행하는 재사용 가능한 단위다. 워크플로 설정 파일은 이 함수들에 이름을 붙이고 하나의 의사결정 흐름으로 연결하는 설계도 역할을 한다. 개발자는 코드를 매번 수정하지 않고 설정 파일만으로 함수 호출 순서를 조정하며 로직을 변경할 수 있다.

오케스트레이터는 사용자 요청을 수신해 설정 파일에 정의된 순서대로 함수를 호출한다. 최종 결과물은 단순한 텍스트 답변이 아니라 증거, 트레이스(Trace, 실행 경로), 지연 시간, 평가자 메타데이터가 포함된 완화 계획 형태로 반환된다. [Figure 4] 이러한 구조는 텔레메트리(Telemetry, 원격 측정)를 통해 어느 지점에서 병목이 발생하는지 정확히 짚어내고, 평가 결과를 바탕으로 오케스트레이션 로직을 튜닝해 시스템 신뢰도를 높이게 한다.

실무자는 `supply_chain_risk_orchestrator` 같은 오케스트레이터 내부의 샘플 CSV 기반 함수를 Amazon Athena 쿼리, RDS, ERP API, WMS/TMS API 같은 실제 기업 데이터 도구로 교체해 즉시 적용할 수 있다. 함수와 설정을 분리했기에 개별 기능의 단위 테스트와 재사용이 가능하다.

운영 리더와 개발자가 얻는 실무적 효용

이러한 정교한 제어 구조는 실제 현장에서 운영 리더와 개발자에게 각각 다른 실무적 이점을 제공한다. 공급망 운영 리더와 분석가는 대시보드에서 수치를 확인한 뒤 곧바로 실행 가능한 완화 계획(Mitigation plan)으로 이동한다. 기존에는 공급업체 지연 발생 시 여러 데이터를 일일이 대조해야 했으나, 이제는 Amazon Quick 대시보드 문맥에서 즉시 분석을 시작해 우선순위가 매겨진 대응 방안을 제안받는다. 데이터 확인과 대응책 수립 사이의 물리적 시간이 사라진 셈이다.

엔지니어링 리더와 개발자는 사용자 인터페이스 구축 대신 백엔드 워크플로 최적화에 집중한다. 비즈니스 사용자가 마주하는 프론트엔드 창구는 Amazon Quick이 담당하고, 실제 에이전트의 작동 논리는 NVIDIA NeMo Agent Toolkit으로 구축한다. 역할이 명확히 분리되어 UI 수정 요청에 매달리는 대신 에이전트의 도구 호출 순서를 조정하거나 응답 정확도를 높이는 튜닝 작업에 시간을 쓸 수 있어 개발 속도가 빨라진다.

주문량과 공급업체가 급증하는 스타트업은 인력 충원 없이도 운영 규모를 확장할 수 있다. 사업 규모가 커질 때마다 대규모 계획 팀을 추가로 구성하는 대신, 반복 가능한 의사결정 체계를 시스템화하여 동일한 아키텍처로 더 빠르고 일관된 공급망 의사결정을 내릴 수 있기 때문이다.

실제 배포를 위한 인프라 설정과 데이터 연결

실무자가 이 워크플로를 직접 배포하려면 먼저 AWS CLI(AWS 명령줄 인터페이스)를 설치하고 IAM Identity Center(AWS 통합 인증 센터) 또는 SSO 프로필 설정을 마쳐야 한다. 인증을 위해 터미널에서 다음 명령어를 입력한다.

bash
aws sso login

인증이 완료되면 제공된 AWS CloudFormation 템플릿과 배포 스크립트를 사용해 인프라를 구축한다. 스크립트는 Amazon Quick 대시보드와 지식 소스, 챗 에이전트, MCP 액션 연결 설정을 자동으로 수행한다.

런타임 구현은 Amazon Bedrock AgentCore Runtime 컨테이너 내부에서 이루어진다. Amazon Quick이 MCP 액션을 호출하면 AgentCore Gateway가 이를 받아 Lambda 타겟 어댑터를 거쳐 런타임 엔드포인트로 전달한다. 컨테이너 내부의 FastAPI가 `/invocations` 요청을 수신하면 즉시 NeMo 워크플로를 로드해 실행하며, 오케스트레이터가 등록된 함수들을 순차적으로 호출해 완화 계획을 도출한다. 비즈니스 로직이 컨테이너 단위로 격리되어 실행되므로 기업 내 보안 요구사항을 충족하면서도 유연한 확장이 가능하다.

현장 적용의 핵심은 샘플 데이터를 실제 기업 데이터로 교체하는 단계적 접근에 있다. 제공된 샘플은 CSV 파일 기반 함수로 동작을 확인하도록 설계되었으나, 실제 운영 환경에서는 이 함수들을 Amazon Athena나 RDS 쿼리로 교체하여 실시간 데이터를 읽어오게 만든다. 더 나아가 ERP API나 WMS, TMS API 또는 기타 MCP 도구로 데이터 소스를 연결해 실제 공급망 리스크를 진단한다. 샘플 코드로 워크플로의 논리적 타당성을 먼저 검증한 뒤 데이터 연결부만 기업 내부 API로 교체하는 방식이 개발 리스크를 낮춘다. 전체 구현 코드와 템플릿은 저장소 https://github.com/aws-samples/amazon-quick-nemo-agent-toolkit 에서 확인할 수 있다.

챗봇과 대화하는 수준을 넘어 실무자가 엑셀과 메일을 뒤지던 시간을 없애는 것은 결국 정교한 워크플로 설계에 달려 있다. 데이터 확인부터 도구 호출, 검증, 대안 제시로 이어지는 경로를 MCP와 네모의 3계층 구조로 연결한 설계가 그 실체다. 단순한 질의응답이 아니라 실행 가능한 해결책을 도출하는 에이전트의 성능은 결국 이 아키텍처의 정밀함이 결정한다.

이제 AI 도입의 기준은 단순한 답변의 정확도가 아니라, 데이터 확인에서 대안 제시까지의 과정을 얼마나 체계적으로 자동화하느냐로 바뀐다. 구체적인 구현 코드와 템플릿은 제공된 깃허브 저장소에서 확인하고 내일의 워크플로에 바로 적용해 볼 수 있다.