KEY POINT

- 제프리스는 Strands Agents와 MCP를 결합해 트레이더가 코딩 없이 실시간 거래 데이터를 분석하는 AI 어시스턴트를 구축했다.

- LLM이 SQL 쿼리만 생성하고 전용 엔진이 시각화를 담당하는 하이브리드 구조를 통해 금융 데이터의 환각 현상을 방지했다.

- 실무자는 데이터 정확성이 필수적인 환경에서 LLM의 추론 영역과 전용 엔진의 렌더링 영역이 물리적으로 분리되었는지 확인해야 한다.

#Jefferies #AmazonBedrock #에이전틱AI #금융AI #MCP

수주 걸리던 데이터 분석을 실시간으로, 제프리스의 AI 도입 배경

전통적인 투자은행의 프런트 오피스 트레이더들은 고객 행동과 시장 트렌드를 분석하기 위해 IT 팀의 지원을 받아 커스텀 대시보드를 구축하며 수일에서 수주를 대기했다. 트레이더들은 방대한 양의 데이터로부터 찰나의 결정을 내릴 인사이트를 얻어야 했으나, 코딩 능력의 부재와 시간 부족으로 인해 직접 시스템을 유지 관리하는 것이 불가능했다. 수백만 행의 데이터가 여러 시각화 도구에 분산되어 있어 전체 거래 흐름을 한눈에 파악하는 엔드투엔드(End-to-End) 가시성 확보에 어려움을 겪었다.

제프리스(Jefferies)는 이러한 데이터 가용성과 의사결정 사이의 간극을 해결하기 위해 AWS 기반의 에이전틱 AI(Agentic AI) 트레이드 어시스턴트를 도입했다. 제프리스는 IT 부서의 작업 큐(Queue)를 기다리지 않고 현업 담당자가 자연어로 실시간 데이터를 직접 분석하는 환경을 구축하여 데이터 추출 권한을 현장으로 이전했다. 이를 통해 트레이더는 기술적 장벽 없이 실시간 데이터 분석 권한을 부여받았으며, 분석 지연으로 인한 기회 손실을 방지하는 체계를 마련했다.

구축된 어시스턴트는 전체 세션 동안 대화 맥락을 유지하며 트레이더에게 연속적인 분석 경험을 제공한다. AI 에이전트는 이전 질문에서 다룬 데이터를 기억해 다음 분석 단계에서 연관된 인사이트를 제안하거나 심층 분석 지점을 먼저 제시한다. 트레이더는 파편화된 정보 확인 작업을 반복하는 대신 대화형 인터페이스를 통해 복잡한 거래 데이터를 탐색하며 전략적 판단 시간을 단축했다.

Strands Agents와 MCP 기반의 에이전틱 AI 기술 스택

제프리스는 AI 에이전트가 추론, 계획, 실행을 수행하도록 돕는 에이전트 하네스 SDK인 Strands Agents를 핵심 프레임워크로 채택했다. Strands Agents는 모델 중심의 오픈소스 SDK로서 LLM의 계획 수립, 사고 체이닝(Chain of Thought), 도구 호출 기능을 통합 관리하며 로컬 개발부터 클라우드 배포까지의 과정을 단순화한다. 개발자는 코드 내에서 프롬프트와 도구 목록을 정의함으로써 에이전트의 행동을 제어하고, 복잡한 유스케이스에 맞춰 도구 선택 방식이나 세션 상태 저장 위치를 커스터마이징할 수 있다.

AI 에이전트가 다양한 데이터 소스와 보안 연결을 수행하도록 돕기 위해 오픈 표준인 MCP(Model Context Protocol)를 적용했다. MCP는 AI 에이전트가 통일된 인터페이스를 통해 서로 다른 데이터 환경을 가진 시스템들과 안전하게 소통하게 만드는 규격이다. 제프리스는 MCP를 통해 데이터 소스를 개별 도구로 노출함으로써 에이전트가 쿼리에 따라 필요한 도구를 동적으로 선택해 호출하는 구조를 구현했다.

기반 모델로는 Amazon Bedrock을 통해 Anthropic Claude를 활용했다. Amazon Bedrock은 LLM이 사용자의 자연어 의도를 해석하고 이에 적합한 SQL 쿼리를 생성하는 추론 엔진 역할을 수행한다. 제프리스는 이 기술 스택을 통해 자연어 이해(NLU)와 데이터 호출, 그리고 결과 반환으로 이어지는 오케스트레이션 워크플로를 최적화했다.

자연어 질문을 실시간 데이터로 변환하는 8단계 워크플로

트레이더의 분석 요청은 기존 트레이딩 인터페이스에 임베딩된 AI 어시스턴트 위젯에서 시작된다. 트레이더가 "미국 내 섹터별 거래 비중을 알려줘"와 같은 질문을 입력하면, Amazon Bedrock의 Claude 모델이 자연어 의도를 해석해 해당 데이터 소스에 맞는 SQL 쿼리를 생성한다. 생성된 쿼리는 MCP 도구를 거쳐 실제 데이터 저장소로 전달되며, 실행 결과가 다시 사용자에게 반환되는 구조다.

에이전트는 MCP 도구를 통해 거래 데이터 저장소, FIX(Financial Information Exchange) 메시지 파일, 인메모리 데이터베이스 등 다양한 소스에 접근한다. LLM이 데이터베이스의 내용을 직접 기억해 답하는 방식이 아니라, 정확한 SQL 쿼리를 통해 실시간 데이터를 호출하므로 생성형 AI의 고질적인 문제인 환각(Hallucination) 현상을 방지하고 데이터 무결성을 보장한다.

특히 실시간 거래 결정에 필요한 응답 속도를 확보하기 위해 모든 데이터 소스를 인메모리 데이터 그리드(In-memory Data Grid)에 배치했다. 일반적인 디스크 기반 데이터베이스 쿼리 방식으로는 트레이딩 찰나의 순간에 필요한 속도를 맞추기 어렵기 때문에, 데이터를 메모리에 상주시켜 물리적 I/O 병목을 제거하고 지연 시간을 최소화했다. 트레이더는 이러한 구조를 통해 꼬리 질문을 던지는 드릴 다운(Drill-down) 방식으로 인사이트를 확장하며 데이터 상관관계를 빠르게 파악한다.

MCP 아키텍처가 제공하는 확장성, 유지보수성, 유연성

제프리스가 채택한 MCP 도구 기반 아키텍처는 세 가지 구체적인 설계 이점을 제공한다. 첫째, 새로운 데이터 소스를 추가할 때 핵심 아키텍처를 재설계할 필요 없이 개별 도구로 등록만 하면 되는 확장성을 확보했다. 이는 향후 기능 확장 시 개발 공수를 크게 줄이고 시스템의 지속 가능성을 높이는 선택이었다.

둘째, 각 시스템과 상호작용하는 로직을 개별 도구 내에 캡슐화하여 관심사 분리(Separation of Concerns)를 달성했다. 특정 데이터 소스의 API 규격이 변경되더라도 전체 시스템을 중단시키지 않고 해당 도구의 내부 로직만 수정하고 테스트할 수 있어 유지보수 효율성이 극대화되었다.

셋째, 에이전트가 쿼리에 따라 사용할 도구를 동적으로 선택하는 유연성을 구현했다. 트레이더의 질문이 복합적일 경우 에이전트는 스스로 판단해 여러 개의 MCP 도구를 순차적으로 호출하고 데이터를 조합한다. 이러한 구조는 복잡한 금융 데이터 환경에서 사용자의 다양한 요구사항에 기민하게 대응할 수 있는 기반이 된다.

금융 AI의 환각 방지와 보안을 위한 하이브리드 설계 기준

제프리스는 데이터 정확성을 위해 LLM이 직접 시각화 결과물을 생성하지 않고 SQL 쿼리만 생성하며, 실제 렌더링은 전용 시각화 엔진이 담당하는 하이브리드 구조를 적용했다. 트레이더가 섹터별 비중 비교를 요청하면 LLM은 SQL을 생성하고, 결과값은 전용 엔진을 통해 색상 코드가 적용된 파이 차트나 그래프로 변환된다. 이는 생성형 AI의 창의성보다 결정론적인 렌더링 도구를 사용하여 수치 왜곡을 원천적으로 차단하기 위한 제약 조건이다.

보안 및 컴플라이언스 준수를 위해 Amazon Bedrock Guardrails를 도입하여 콘텐츠 중재와 PII(개인식별정보) 필터링을 수행했다. 또한 지능형 액세스 제어를 통해 행 단위 데이터 권한 제어(Row-level data entitlements)를 적용함으로써, 권한이 없는 사용자가 민감한 고객 데이터에 접근하는 것을 기술적으로 차단했다. 모든 대화 내용은 감사 로그로 기록하여 금융 규제 기관의 요구 사항을 충족하도록 설계했다.

개발 단계에서는 목적에 따라 언어를 분리하여 Python으로는 LLM 상호작용과 가설 검증을 수행하고, Java로는 고처리량 데이터 처리와 핵심 비즈니스 로직을 구현했다. 이를 통해 AI 모델의 빠른 업데이트 주기와 기업용 시스템의 안정성 요구를 동시에 충족했다.

결론적으로 실무 데이터에 접근하는 AI 에이전트를 구축할 때는 LLM의 추론 능력에 모든 것을 맡기기보다 데이터 추출, 시각화 렌더링, 권한 검증이라는 각 단계를 독립적인 전용 엔진으로 분리해 배치하는 하이브리드 설계 패턴을 적용하는 것이 성능과 보안을 동시에 확보하는 가장 구체적인 기준이다.