기업들이 배포한 '에이전트'의 상당수가 실제로는 단순 챗봇

챗봇에게 업무를 시켜도 결국 복잡한 마무리는 사람이 직접 하거나, 매번 같은 맥락을 다시 설명해야 하는 번거로움이 있다. 기업들은 이 문제를 해결하려 AI 에이전트를 도입하고 있지만, 정작 현장에 배포된 결과물은 기존 챗봇과 크게 다르지 않은 상태다.

응답자의 71%가 배포한 에이전트 중 25% 이하만이 진정한 다단계 오케스트레이션 워크플로우(목표 달성을 위해 여러 단계를 순서대로 실행하는 체계)라고 답했다. 대다수는 단순한 챗봇 래퍼(기존 챗봇에 껍데기만 씌워 한 번의 질문에 답하게 만든 형태) 수준에 머물러 있으며, 실제 워크플로우 형태로 절반 이상을 구현한 기업은 10%에 불과하다.

기업들이 플랫폼을 선택하는 핵심 동인은 모델 중력(특정 고성능 모델과 긴밀하게 연결된 환경을 선호하는 현상)이다. 최첨단 베이스 모델과의 네이티브 정렬(21%)을 이유로 플랫폼을 고르는 사례가 많다. 하지만 실제 도입 성공 여부는 작업 완료 신뢰성(32%)과 다단계 워크플로우 관리(28%) 같은 실행 능력으로 판단한다. 모델의 이름값에 끌려 플랫폼을 정하지만, 현장에서는 복잡한 일을 실수 없이 끝내는 신뢰도가 실질적인 평가 기준이 된다.

이러한 실행 신뢰도를 확보하기 위해 기업들은 단순 모델 선택을 넘어 전용 오케스트레이션 플랫폼 도입으로 눈을 돌리고 있다.

Anthropic, 기업용 에이전트 오케스트레이션 시장 주도

단순히 질문에 답하는 창을 넘어 업무 전체를 설계하는 도구를 고르는 기업이 늘었다. 조사 대상 기업의 40%가 Anthropic의 Claude를 기본 플랫폼으로 선택했다. 이는 Microsoft의 18%나 OpenAI의 13%보다 두 배 이상 높은 수치다. 기업들이 AI 모델 자체의 성능뿐 아니라, 그 모델을 제공하는 회사가 만든 관리 환경까지 함께 선택하는 경향을 보인다.

도구를 도입하고도 제어권을 완전히 쥐지 못한 사례가 적지 않다. 응답자의 27%는 제어 불능 상태로 반복 작업을 수행하는 에이전트를 실시간으로 멈출 방법이 없다. 에이전트가 잘못된 경로로 작업을 수행하며 토큰(AI가 읽고 쓰는 글자 단위) 비용을 과하게 소모해도 청구서가 도착할 때까지 파악하기 어려운 구조다. 실시간 비용 제어 능력이 부족한 상태다.

벤더 종속 위험을 줄이기 위한 하이브리드 제어 도입

특정 회사의 도구에 모든 설정을 맞춰둔 탓에 모델 하나를 바꾸려면 시스템 전체를 다시 설계해야 하는 벤더 종속(특정 업체 기술에 매여 다른 서비스로 갈아타지 못하는 상태) 우려가 35%로 가장 큰 리스크로 꼽혔다. 이에 따라 2026년 말까지 응답자의 51%가 하이브리드 제어 평면을 도입할 것으로 보인다. 이는 AI 제공사가 제공하는 네이티브 방식과 외부 오케스트레이션(여러 AI 모델과 도구를 조율해 업무 순서를 짜는 외부 시스템)을 결합해 사용하는 구조다. 제공사가 관리하는 서비스에 모든 제어권을 완전히 맡기겠다는 응답은 6%에 불과했다.

현재 기업들이 사용하는 오케스트레이션 플랫폼의 전반적인 만족도는 5점 만점에 3.94점에 그쳤다. 당장 사용은 가능하나 만족도가 낮아 교체를 고려하는 상태다. 실제로 응답자의 96%가 1년 안에 오케스트레이션 접근 방식을 바꾸겠다고 답했다. 이는 특정 벤더의 생태계에 갇히지 않으면서 실제 업무를 수행할 수 있는 정교한 제어권을 확보해 실행 신뢰도를 높이려는 의도가 반영된 결과다.

단순 챗봇 수준의 에이전트로는 복잡한 업무 마무리를 자동화할 수 없다. 이제는 모델의 인지도보다 복잡한 단계를 실수 없이 완수하는 실행 신뢰도에 집중해야 한다. 하이브리드 제어 구조를 통해 벤더 종속성을 줄이고 실제 업무 완결성을 확보했는지 판단하는 것이 AI 도입의 실질적인 성패를 결정한다.