플랫폼에서 DeepSeek의 토큰 사용량은 급증했으나, 전체
많은 기업이 AI 운영 비용을 절감하기 위해 ChatGPT 같은 고가 모델에서 가벼운 오픈소스 모델로 갈아탄다. 하지만 토큰 처리량이 늘어난다고 해서 전체 지출 비중이 반드시 낮아지는 것은 아니다. Vercel(웹 프레임워크 및 호스팅 플랫폼)의 AI 게이트웨이 대시보드 데이터가 이 괴리를 보여준다. DeepSeek는 최근 일주일 동안 인프라를 통과하는 전체 토큰의 3분의 1 이상을 처리했다. 이 수치로 DeepSeek는 플랫폼 내 토큰 사용량 1위를 기록했다. 하지만 실제 비용 지출은 다른 양상을 띤다. 플랫폼 내 전체 AI 지출액의 절반 이상은 여전히 Anthropic이 차지하고 있다.
Nvidia의 Nemotron(대규모 언어 모델)이 이 시장의 선두권 진입을 예고하고 있다. Nvidia가 구축한 강력한 네트워크 연결성이 핵심 동력이다. 모델 자체의 극심한 적응력 또한 갖췄다. Nemotron은 이러한 연결성과 적응력을 바탕으로 빠르게 상위권으로 도약할 준비를 마쳤다.
프런티어 모델과 오픈 소스 모델은 경쟁 관계가 아니라 동일한
탐색에는 고비용 모델을 쓰고 실행에는 저비용 모델을 쓴다. 프런티어 모델(최첨단 고성능 모델)이 먼저 특정 업무의 유스케이스를 증명하는 발견 단계에 투입된다. 해당 유스케이스가 성숙해지면 더 저렴한 오픈 소스 대안으로 넘어가는 생산 단계가 이어진다. 두 모델은 서로의 점유율을 뺏는 경쟁 관계가 아니다. 하나의 서비스가 완성되는 라이프사이클의 서로 다른 단계로 작동한다.
주당 토큰 처리량과 단가 사이에는 극명한 괴리가 존재한다. OpenRouter(AI 모델 통합 플랫폼) 데이터에 따르면 DeepSeek V4 Flash는 주당 5.3조 개의 토큰을 처리하며 가장 많이 사용됐다. 프런티어 모델 중 가장 인기 있는 Opus 4.8은 주당 2조 개를 조금 넘는 토큰을 처리했다. 하지만 수익 구조는 다르다. 백만 토큰당 평균 비용은 Opus 4.8이 1.37달러인 반면 V4 Flash는 6센트에 불과하다. 토큰 단가는 Opus 4.8이 약 23배 더 높다.
기업은 AI 도입 예산을 유스케이스 발견과 실제 생산이라는 두 단계로 분리해 산정한다. 발견 단계에서는 고비용 모델을 사용해 비즈니스 가치를 빠르게 검증하고 유스케이스를 발굴한다. 이후 생산 단계로 넘어가면 저비용 모델을 적용해 운영 비용을 최적화한다. 모델의 성능보다 비용 효율성이 중요해지는 시점에 오픈 소스로 갈아타는 방식이다. 고비용 모델이 길을 열고 저비용 모델이 이를 대량 생산하는 구조다.
프런티어 랩들은 AI 적용 가능 과제의 빠른 성장 덕분에 시장
엔지니어는 매달 날아오는 API 청구서를 보며 더 가벼운 모델로의 전환을 고민한다. AI로 해결 가능한 작업 시장의 확장 속도는 매우 빠르다. 프런티어 랩(최상위 AI 모델 개발사)들은 새로운 과제가 등장할 때 초기 배포 단계를 독점하며 시장 지위를 지킨다. 프런티어 랩들은 최신 모델의 성능 우위를 바탕으로 기업들이 가장 먼저 찾는 선택지가 된다. 일부 유스케이스는 기술적 난도가 너무 높아 저렴한 대안 모델로 완전히 대체할 수 없다.
수직적 AI 서비스(특정 산업 특화 AI 서비스)들이 더 가벼운 모델로 전환하는 추세다. 그럼에도 프런티어 제공업체들은 토큰당 단가가 가장 높은 프리미엄 가격대를 계속 유지하고 있다. 시장에서 가장 가치 있는 가격 구간을 점유하고 있는 상태다. 저가형 모델이 제공하지 못하는 복잡한 추론 능력이 프리미엄 가격의 근거가 된다. 이러한 가격 구조는 단기간에 변하지 않을 가능성이 크다.
AI 도입 예산은 이제 두 단계로 분리하여 산정한다. 유스케이스를 발견하는 단계에서는 성능 중심의 고비용 모델을 사용한다. 실제 서비스 생산 단계에서는 효율 중심의 저비용 모델로 갈아탄다. 프런티어 랩들은 전자의 단계에서 압도적인 매출 비중을 확보하며 수익성을 지킨다. 고성능 모델이 제공하는 가치가 가격 저항선을 상쇄하고 있다.
기업들은 운영 비용을 줄이기 위해 고가 모델에서 가벼운 오픈소스 모델로 이동한다. 하지만 토큰 처리량이 급증해도 프런티어 모델의 매출 비중은 여전히 압도적이다. Opus 4.8의 토큰 단가가 V4 Flash보다 약 23배 높은 가격 구조가 이를 뒷받침한다.
이제 AI 도입 예산을 유스케이스 발견을 위한 고비용 단계와 실제 생산을 위한 저비용 단계로 분리해 산정해야 한다. 용도에 따라 예산을 나누는 것이 AI 도입의 실질적인 비용 최적화 기준이 된다.
