AI 토큰 소비 급증으로 인해 직원들의 AI 사용에 대한 중앙

채팅창에 질문을 입력할 때마다 공짜처럼 느껴지지만, 사실 그 뒤에서는 디지털 계량기가 쉴 새 없이 돌아간다. 메타는 직원들이 AI 토큰, 즉 AI가 글자를 읽고 쓰는 기본 단위인 토큰을 기하급수적으로 소비하면서 중앙 집중식 지출 제어 조치를 도입했다. 내부 메모에 따르면 이러한 사용량 증가세는 2026년까지 수십억 달러의 비용 발생으로 이어질 가능성이 크며, 이 내용은 약 6,000명의 직원에게 전달됐다.

회사는 그동안 사용량 순위를 매기던 리더보드를 폐지하고 AI 게이트웨이라는 실시간 모니터링 플랫폼으로 전환한다. AI 게이트웨이는 각 팀의 AI 사용량과 지출 내역을 실시간으로 추적하며, 비정상적으로 지출이 급증하는 상황이 발생하면 자동으로 알림을 보내는 기능을 갖췄다. 구체적인 토큰 예산 할당과 정식 예산 집행은 2027년부터 시행될 계획이다.

외부 도구인 클로드 대신 자체 코딩 어시스턴트인 메타코드를 사용하도록 유도하는 전략도 함께 추진한다. 다른 회사의 AI 모델을 빌려 쓸 때 지불하는 API 비용을 절감하는 동시에, 자사 제품을 내부적으로 직접 사용하며 성능을 검증하는 도그푸딩을 강화하려는 목적이다. AI 도입률이라는 수치가 실제 생산성 향상으로 이어지는지 확인하기 위해 비용 거버넌스라는 관리 체계를 세우는 과정이다.

직원들은 약 30일 동안 73.7조 개의 토큰을 소비했으며

개인이 AI로 업무 시간을 단축하며 효율을 찾는 동안, 거대 기업들은 통제 불능의 비용 지출이라는 새로운 숙제를 마주했다. 메타 직원들은 약 30일 동안 73.7조 개의 토큰(AI가 텍스트를 처리하는 기본 단위)을 소비했다. 회사는 이를 클로드노믹스(Anthropic의 AI 클로드를 활용해 만든 내부 사용량 순위표)라는 리더보드로 추적했다. 직원과 팀별로 누가 더 많은 토큰을 썼는지 순위를 매기는 방식이었으나, 이는 결과적으로 실제 업무의 생산적인 결과물보다 사용량 자체를 늘리는 행위를 장려하는 부작용을 낳았다.

우버의 사례는 비용 관리가 되지 않았을 때의 위험을 더 극명하게 보여준다. 2026년 AI 코딩 예산을 단 4개월 만에 모두 소진하면서, 결국 직원 1인당 도구별 월 지출 한도를 1,500달러로 제한하는 조치를 취했다. 엔지니어의 95%가 매달 AI 도구를 사용하고 전체 코드의 70%가 AI로 생성될 정도로 현장 도입은 매우 빠르게 진행되었다. 하지만 쏟아부은 토큰 지출이 실제 측정 가능한 성과로 이어지는 연결 고리는 아직 부족한 상태다.

두 기업의 사례는 AI 도입률이라는 단순한 수치가 실제 생산성 향상으로 이어지는지 검증하는 과정이 필수적임을 보여준다. 단순히 얼마나 많이 썼느냐를 따지는 리더보드 방식은 비용 낭비만 초래할 뿐이다. 이제는 지출한 비용만큼의 결과물이 나왔는지 확인하는 비용 거버넌스(IT 자원 지출을 관리하고 통제하는 체계)가 기업 AI 도입의 성패를 가르는 핵심 판단 기준이 되고 있다.

Andrew Bosworth CTO는 생산성 향상 없이 AI

성과 보고서를 채우기 위해 알맹이 없는 숫자만 늘리다 보면 정작 중요한 일은 뒷전이 되곤 한다. 메타의 앤드류 보스워스(Andrew Bosworth) CTO는 생산성 향상 없이 AI 사용량 지표만 부풀리는 토큰맥싱(tokenmaxxing, 사용량 수치 늘리기) 관행을 경고했다. 일부 직원들이 게임처럼 순위를 매기는 리더보드에 집착해 토큰 사용량을 늘리는 행위는 실제 업무 효율과는 거리가 멀다는 지적이다. 보스워스 CTO는 그 누구도 단순히 사용하기 위해서 AI 도구를 사용해서는 안 되며, 모든 움직임이 곧 발전은 아니라고 강조했다. 단순히 도구를 많이 썼다는 사실이 업무의 실질적인 영향력을 증명하는 척도가 될 수 없다는 뜻이다.

기업들이 AI에 쓰는 돈을 제대로 파악하지 못하는 관리 부재 문제도 심각하다. KPMG 조사 결과 AI 비용에 대해 포괄적인 가시성(비용 지출 내역을 투명하게 파악하는 상태)을 가진 기업은 26%에 불과했다. 비용 집행 과정이 불투명하다 보니 기업들의 지출은 적절한 통제 장치 없이 빠르게 불어났다. 골드만삭스(Goldman Sachs)는 2030년까지 기업의 토큰 소비량이 24배 증가해 월 120 quadrillion(1,000조 단위의 큰 수) 토큰에 달할 것으로 예측했다. 쏟아붓는 비용 규모는 폭발적으로 커지는데 정작 어디서 얼마만큼의 비용이 새고 있는지 모르는 관리 공백이 기업의 새로운 리스크가 되고 있다.

AI 도입의 성공 여부는 사용량이라는 양적 수치가 아니라, 실제 생산성 향상으로 이어지는지를 검증하는 비용 거버넌스(비용 관리 체계) 구축에 달려 있다.

챗GPT나 클로드를 켜는 일상이 익숙해졌지만, 기업 입장에서는 보이지 않는 비용의 습격이다. 메타가 30일 동안 73.7조 개의 토큰 소비를 확인하고 사용량 순위를 매기던 리더보드 대신 실시간 감시 체계인 AI 게이트웨이를 도입한 이유다.

이제는 AI를 얼마나 많이 쓰느냐가 아니라, 쓴 만큼의 성과가 나왔는지 따지는 비용 거버넌스라는 지출 관리 체계가 필요하다. AI 도입의 성패는 사용량이라는 숫자보다 실제 생산성 향상을 증명하는 정교한 통제력에서 결정된다.