이번 주 한 기업의 개발팀 회의실에서는 한숨 소리가 들린다. 챗봇 데모는 완벽하게 작동했지만, 이를 실제 결제 시스템이나 고객 관리 데이터베이스에 연결하려니 작은 네트워크 오류 하나에 전체 프로세스가 멈춰버리기 때문이다. 단순한 대화형 AI를 넘어 실제 돈이 오가는 비즈니스 프로세스에 AI를 투입했을 때 겪는 전형적인 진입 장벽이다.

Mistral AI가 공개한 Workflows의 핵심 데이터

Mistral AI(프랑스의 AI 기업)가 기업 가치 117억 유로의 규모를 바탕으로, AI 시스템을 개념 증명 단계에서 실제 수익 창출 프로세스로 옮기기 위한 오케스트레이션(여러 AI 모델과 도구를 순서대로 연결해 하나의 업무를 완성하게 만드는 지휘 과정) 레이어인 Workflows를 공개했다. 이 제품은 Mistral Studio 플랫폼의 일부로 출시되었으며, 현재 퍼블릭 프리뷰 상태로 제공된다. 시장 조사에 따르면 에이전틱 AI(스스로 목표를 설정하고 도구를 사용하는 AI) 시장은 2034년까지 1,990억 달러 규모로 성장할 전망이지만, 복잡성과 비용 문제로 2027년까지 프로젝트의 40% 이상이 중단될 것으로 보인다. Workflows는 이러한 실패를 막기 위해 Temporal(작업이 중간에 끊겨도 멈춘 지점부터 다시 시작하게 돕는 내구성 실행 엔진)의 기술을 기반으로 구축되었다. Temporal은 기업 가치 50억 달러의 플랫폼으로 OpenAI, Snap, Netflix, JPMorgan Chase 등이 사용하며, Stripe나 Salesforce 같은 기업의 오케스트레이션을 담당하고 있다.

코드 기반 설계와 데이터 주권의 변화

기존의 많은 AI 워크플로우 도구들이 마우스로 상자를 끌어다 놓는 드래그 앤 드롭 방식을 제공했다면, Workflows는 철저하게 파이썬(Python, 범용 프로그래밍 언어) 코드를 사용하는 개발자 중심으로 설계되었다. 쉽게 말하면, 그림을 그려서 업무 흐름을 만드는 대신 정교한 설계도를 코드로 작성하는 방식이다. 이는 화물 운송 승인이나 금융 거래, 컴플라이언스(법규 준수) 검토처럼 한 치의 오차도 허용되지 않는 핵심 업무에서 버전 관리와 정밀도를 확보하기 위함이다. 개발자가 파이썬으로 워크플로우를 작성하면 이를 Mistral의 챗봇 플랫폼인 Le Chat에 게시하여 조직 내 누구나 실행할 수 있게 만들 수 있다.

실행 구조에서도 큰 변화가 생겼다. 예전에는 데이터가 AI 모델이 있는 클라우드로 이동해야 했지만, 이제는 오케스트레이션(지휘)은 클라우드에서 하고 실제 실행은 고객의 데이터가 있는 내부 서버에서 처리하는 분리 구조를 택했다. 비유하자면, 지휘자는 멀리서 지휘봉만 흔들고 실제 연주는 각자의 방에서 이루어지는 셈이라 데이터가 고객의 보안 경계를 벗어날 필요가 없다. 이는 데이터 주권이 중요한 규제 산업에서 결정적인 차이가 된다.

기술적으로는 세 가지 기둥을 세웠다. 첫째는 몇 줄의 파이썬 코드로 로직을 짤 수 있는 개발 키트다. 여기에는 MCP(Model Context Protocol, AI 시스템을 외부 도구와 연결하는 표준 규격) 서버 연결 기능이 포함되어 AI가 외부 도구를 직접 제어할 수 있다. 둘째는 내구성이다. Temporal 엔진을 확장해 스트리밍과 페이로드(데이터 전송 단위) 처리 기능을 추가했다. 덕분에 시스템에 장애가 발생해도 처음부터 다시 시작하는 것이 아니라, 멈췄던 지점부터 정확히 다시 시작한다. 셋째는 관찰 가능성이다. OpenTelemetry(오픈텔레메트리, 시스템의 상태를 관찰하고 추적하는 표준 프레임워크)를 기본 지원하여, AI 에이전트가 어떤 결정을 내렸고 어느 단계에서 문제가 생겼는지 Studio에서 즉시 추적할 수 있다. 또한 CRM(고객 관계 관리 시스템)이나 티켓팅 시스템 같은 기업용 도구와 직접 연결되는 커넥터를 제공하며, 인증 및 비밀번호 관리 기능도 내장되어 있다.

이제 AI 경쟁의 승부처는 모델의 지능이 아니라, 그 지능을 멈춤 없이 돌리는 인프라의 견고함으로 옮겨갔다.