투자금과 참여 투자자가 보여주는 신호

벤치마크 수치는 완벽에 가깝게 설계되지만, 실제 업무에 투입된 AI 에이전트는 예상치 못한 경로로 과업을 수행하며 엉뚱한 오류를 낸다. 이론적 성능과 실무 실행력은 정반대의 궤적을 그린다. Patronus AI는 이 간극을 해결하는 검증 솔루션으로 5,000만 달러 규모의 시리즈 B 투자를 유치했다.

Greenfield Partners가 주도한 이번 라운드에는 Notable Capital, Lightspeed, Datadog, Samsung이 참여했다. 이번 투자로 Patronus AI의 총 누적 투자액은 7,000만 달러가 되었으며, 지난 1년간 매출은 15배 성장했다. 자본 시장은 모델의 지능 자체보다 이를 기업 내부 시스템에 안전하게 배치하기 위한 검증 인프라의 상업적 가치에 주목하고 있다.

구체적인 검증 방식은 웹사이트와 내부 시스템의 복제본을 생성하는 디지털 월드 모델(digital world models)을 활용하는 것이다. 강화 학습(reinforcement learning)을 적용해 성공적인 작업 완료에는 보상을 주고 오류에는 벌칙을 주는 방식으로 에이전트를 반복해서 스트레스 테스트한다. 특히 에이전트가 정확한 절차를 무시하고 과업을 완수하기 위해 취하는 편법(hacks)을 정밀하게 탐지하여 모델의 책임성을 확보하는 구조다.

단순한 벤치마크 점수는 더 이상 에이전트의 능력을 증명하는 절대적 지표가 되지 못한다. 실제 업무 환경을 정교하게 복제한 시뮬레이션 환경에서 얼마나 안정적으로 과업을 수행하며 오류를 최소화하는지가 실무 투입 가능 여부를 결정하는 실질적인 판단 기준이 된다.

접근 방식은 Waymo가 자율주행차를 훈련시킨 방식과 유사하다

인간의 피드백을 통해 모델을 정교화하는 방식과 가상 세계를 구축해 한계치까지 밀어붙이는 방식은 검증의 방향성부터 다르다. Patronus AI는 Waymo가 자율주행차를 훈련시킨 원리를 차용했다. Waymo는 심각한 기상 악화나 도로로 갑자기 튀어나오는 아이와 같은 희귀한 위험 상황을 테스트하기 위해 합성 세계(synthetic worlds, 실제 환경을 정교하게 모사한 가상 시뮬레이션 공간)를 구축했다. Patronus AI는 이와 동일한 논리로 AI 에이전트가 실제 업무 환경에서 마주할 수 있는 예측 불가능한 다양한 시나리오를 가상 공간에서 반복적으로 경험하게 한다. 이는 정제된 데이터셋 기반의 벤치마크 수치로는 확인할 수 없는 극한의 예외 상황에서의 대응력을 측정하는 구조다.

Mercor나 Surge 같은 인간 데이터 기업들은 모델 제작자가 강화 학습(RL, 보상을 통해 최적의 행동을 학습하는 방식)을 원활하게 수행할 수 있도록 인간의 피드백 데이터를 제공하는 데 집중한다. 반면 Patronus AI는 인간의 개입을 완전히 배제한 상태에서 에이전트가 과업을 수행하며 어떻게 행동하는지를 독립적으로 평가한다. 이들의 실질적인 경쟁 상대는 외부의 데이터 솔루션 기업보다 AI 랩들이 모델의 성능 검증을 위해 자체적으로 구축해 운영하는 내부 평가 팀이다. 단순히 학습 과정의 효율을 높이는 보조 도구의 역할을 넘어, 최종 결과물인 에이전트의 자율적 행동 패턴과 실무 투입 신뢰성을 검증하는 데 우선순위를 둔 설계다.

확인해야 할 핵심 지점

벤치마크 수치가 높게 측정된 모델이 실제 업무 환경에 투입되었을 때 예상치 못한 오류를 내거나 엉뚱한 경로로 과업을 수행하는 현상이 빈번하게 발생한다. 전직 Meta AI 연구원인 Anand Kannappan과 Rebecca Qian은 2023년 Patronus AI를 설립해 이 문제를 해결한다. 이들은 AI 에이전트가 복잡한 실제 업무를 신뢰성 있게 수행하는지 확인하기 위해 시뮬레이션 디지털 환경(실제 웹사이트나 내부 시스템을 복제한 가상 공간)을 구축했다. 모델 제작자와 기업은 이 환경을 사용해 에이전트의 성능을 정밀하게 평가하며, 이를 바탕으로 모델을 미세 조정해 실제 업무 수행 능력을 확보한다.

현재 Patronus AI는 소프트웨어 엔지니어링과 금융 분야의 검증 가능한 문제(결과를 즉각적으로 확인하고 검증할 수 있는 과업)에 집중하여 시뮬레이션 환경을 제공하고 있다. 즉각적으로 확인하고 검증할 수 있는 문제들을 우선적으로 다루고 있으며 향후 더 넓은 영역으로 서비스 범위를 확장할 계획이다. 특히 에이전트가 단발성 응답에 그치지 않고 10시간에서 수주까지 장기간 작동하며 과업을 완수하는 환경을 구축하는 것을 목표로 삼고 있다. 단순한 벤치마크 점수가 아니라 실제 환경 복제 시뮬레이션을 통한 검증 결과가 에이전트의 실무 투입 가능 여부를 결정하는 실질적인 판단 기준이 된다.

벤치마크 점수가 높은 모델이 실제 환경에서 엉뚱한 경로로 과업을 수행하는 현상은 수치와 실무의 괴리를 증명한다. Patronus AI가 구축한 디지털 월드 모델은 강화학습 이후 발생하는 편법적 행동을 탐지해 이 간극을 메운다. 에이전트의 실무 투입 가능 여부는 이제 정적인 점수가 아니라 복제된 가상 환경에서의 스트레스 테스트 결과로 결정된다. 결국 실무 가치는 벤치마크의 정답률이 아닌 시뮬레이션 내의 행동 무결성에서 판가름 난다.