Claude Code보다 캐시 효율성이 더 높다

AI API 비용을 줄이려면 무엇부터 확인해야 할까? 정답은 요청마다 전송되는 시스템 프롬프트와 도구 정의의 크기에 있다. Claude Code(앤스로픽의 코딩 에이전트)는 첫 요청 시 약 33,000토큰을 소모한다. OpenCode(오픈소스 기반 코딩 도구)가 약 6,900토큰을 쓰는 것과 대조적이다.

Claude Code는 27개의 도구를 정의하며 약 24,000토큰을 사용한다. 시스템 프롬프트 역시 약 6.5k 토큰으로 비중이 높다. OpenCode는 10개의 도구로 약 4,800토큰을 쓰고 시스템 프롬프트는 약 2.0k 토큰에 불과하다. 도구 정의의 양이 기본 비용의 상승으로 직결된다.

캐시 효율성에서도 차이가 극명하다. OpenCode의 요청 접두사는 매 실행마다 바이트 단위로 동일해 세션당 한 번만 캐시 비용을 지불한다. Claude Code는 세션 중간에 수만 개의 프롬프트 캐시 토큰을 반복적으로 다시 작성한다. 특정 작업에서 Claude Code는 OpenCode보다 최대 54배 많은 캐시 토큰을 썼다.

에이전트 운영 비용은 기본 토큰 비용과 요청 횟수의 상관관계로 결정된다. 기본 비용이 높을수록 캐시 효율성이 낮을 때 비용 상승 폭이 커진다.

보다 초기 프롬프트 전송 토큰량이 훨씬 많다

단순한 질문 하나를 던질 때도 도구마다 요구하는 기본 비용은 천차만별이다. Claude Code는 단 한 줄의 답변을 얻기 위해 시스템 프롬프트, 도구 스키마, 주입된 스캐폴딩(소프트웨어 구동을 위한 기반 코드)을 포함해 약 33,000개의 토큰을 소모한다. 반면 OpenCode는 같은 작업을 수행하는 데 약 7,000개의 토큰만을 사용한다. Claude Code가 사용자의 질의가 도달하기도 전에 이미 OpenCode 대비 4.7배 높은 비용을 지불하는 구조다.

프로덕션 저장소에 포함된 지침 파일인 AGENTS.md나 CLAUDE.md는 요청마다 평균 20,000토큰을 추가로 발생시킨다. 여기에 5개의 MCP(Model Context Protocol, AI 모델과 외부 데이터를 연결하는 표준 규격) 서버를 연결하면 5,000에서 7,000토큰이 더해진다. 실제 작업 환경을 설정하고 사용자가 첫 번째 명령을 입력하기도 전에 이미 75,000에서 85,000토큰이 기본값으로 고정된다. 개발자가 설정한 환경의 복잡도가 높을수록 실질적인 대화가 시작되기 전부터 API 비용은 가파르게 상승한다.

다단계 작업에서는 Claude Code의 도구 호출 일괄

작업 횟수가 늘어날수록 요청당 발생하는 기본 비용이 누적된다. Claude Code는 여러 도구 호출을 소수의 요청으로 묶어 처리하는 일괄 처리(batching) 방식을 사용한다. 반면 OpenCode는 매 턴마다 하나의 도구 호출을 수행하는 구조다. OpenCode는 기본 비용이 낮지만 매 턴마다 이를 반복해서 지불해야 한다. 다단계 작업에서는 요청 횟수가 적은 Claude Code가 전체 토큰 사용량에서 더 낮은 수치를 기록하는 사례가 확인된다. 일괄 처리가 반복적인 기본 비용 지불을 막아 전체적인 토큰 소모를 줄인 결과다.

121,000토큰이 소요된 작은 작업이 서브에이전트(작업 분산을 위해 생성한 하위 AI) 두 개로 나뉘자 513,000토큰으로 급증했다. 각 서브에이전트가 개별적으로 지불하는 부트스트랩(초기 구동) 비용이 중복 발생했기 때문이다. 여기에 부모 에이전트가 하위 에이전트의 트랜스크립트(대화 기록)를 다시 소비하는 비용이 추가로 붙는다. 작업을 분산하는 팬아웃(Fan-out) 구조는 토큰 비용의 승수 효과를 일으켜 비용 부담을 가중시킨다. 단일 에이전트 수행보다 비용이 4배 이상 증가한 결과다.

최종 운영 비용은 에이전트의 기본 토큰 비용(Baseline)과 요청 횟수(Request Count)의 상관관계에 따라 결정된다. 요청 횟수를 최소화하는 일괄 처리의 효율성과 작업 분산으로 인한 비용 상승분을 정밀하게 대조해야 한다. 이는 기업이 AI 에이전트 워크플로우를 설계할 때 실제 API 청구 금액을 예측하는 정량적 기준이 된다. 기본 비용이 높은 모델일수록 요청 횟수 관리가 비용 통제의 핵심이 된다.

Claude Code는 첫 요청에 33,000토큰을 소모한다. OpenCode의 7,000토큰보다 4.7배 높다. 서브에이전트를 활용하는 팬아웃 구조에서는 이 부트스트랩 비용이 요청마다 곱해지는 승수 효과를 낸다.

결국 API 지출은 기본 토큰 비용과 요청 횟수의 단순 곱셈으로 수렴한다. 기본 비용과 예상 요청 횟수를 대입해 실질 운영 비용을 산출하라.