매달 클라우드 청구서를 받아보는 재무 담당자들은 AI 모델 호출 비용이 어디서 발생하는지 파악하는 데 어려움을 겪어왔다. 수많은 애플리케이션과 개발자가 하나의 계정을 공유하며 모델을 호출할 때, 특정 프로젝트의 비용 기여도를 명확히 분리하기 어려웠기 때문이다. 이번 주 Amazon Bedrock(기업용 생성형 AI 모델 구축 플랫폼)은 이러한 비용 가시성 문제를 해결하기 위해 추론 비용에 대한 세분화된 속성 부여 기능을 발표했다.

IAM 주체별 자동 비용 분류

Amazon Bedrock은 이제 추론 요청을 수행한 IAM(AWS 내 권한 관리 서비스) 주체에게 비용을 자동으로 할당한다. IAM 주체는 개별 사용자, 애플리케이션이 사용하는 역할, 혹은 Okta나 Entra ID(기업용 통합 인증 서비스)와 같은 외부 제공업체의 연합 ID를 포함한다. 별도의 리소스 관리나 기존 워크플로우 수정 없이도 AWS Billing(비용 관리 도구)과 연동되어 모델별 비용이 자동 집계된다. 사용자는 선택적으로 비용 할당 태그를 추가하여 AWS Cost Explorer(비용 분석 시각화 도구)와 CUR 2.0(상세 비용 및 사용량 보고서)에서 팀, 프로젝트, 혹은 사용자 정의 차원별로 비용을 분류할 수 있다.

기존 방식과의 차이점

예전에는 전체 호출량에 대한 총비용만 확인 가능했으나, 이제는 호출 주체별로 상세 내역을 확인할 수 있다. CUR 2.0 데이터 내보내기 설정에서 IAM 주체 데이터를 활성화하면, 특정 사용자가 어떤 모델을 사용했고 입력 및 출력 토큰에 얼마를 지출했는지 즉시 파악이 가능하다. 예를 들어 Alice가 Claude 4.6 Sonnet을 사용하고 Bob이 Claude 4.6 Opus를 사용할 경우, 각자의 지출 내역이 line_item_iam_principal 열에 명확히 기록된다. 이는 단순히 총액을 확인하던 수준에서 벗어나, 조직 내 AI 자원 배분의 효율성을 직접 측정하는 단계로 진입했음을 의미한다.

태그 기반의 비용 집계 전략

개발자가 체감하는 가장 큰 변화는 태그를 통한 유연한 비용 관리다. IAM 주체에 팀이나 프로젝트 단위의 태그를 부착하면, 해당 태그는 자동으로 청구 데이터에 반영된다. 태그를 활성화하는 방법은 다음과 같다.

aws iam tag-role --role-name Role-1 --tags Key=Project,Value=DocFlow

태그가 활성화되면 CUR 2.0 보고서의 태그 열에 iamPrincipal/ 접두사와 함께 데이터가 나타난다. 소규모 팀이나 프로토타입 환경에서는 개별 IAM 사용자의 자격 증명을 통해 비용을 추적하고, 프로덕션 환경에서는 애플리케이션이 사용하는 IAM 역할을 통해 서비스별 비용을 분리하는 방식이 가능하다. 특히 Amazon Bedrock API 키를 사용하는 경우에도 해당 키와 연결된 IAM 주체로 비용이 귀속되므로, 개발자에게 키를 배포하는 조직도 여전히 상세한 비용 추적이 가능하다.

분석 및 최적화의 새로운 기준

비용 할당 태그는 활성화 후 24시간에서 48시간 이내에 Cost Explorer와 CUR 2.0에 반영된다. 기업은 이를 통해 데이터 과학 팀의 모델 사용량과 비용 효율성을 분석하거나, 특정 프로젝트의 예산 초과 여부를 실시간으로 모니터링할 수 있다. 상세한 설정 가이드는 AWS 리소스 태깅 모범 사례를 참조하면 된다. 이번 업데이트는 AI 추론 비용이 클라우드 지출의 상당 부분을 차지하게 된 현시점에서, 기업이 AI 투자의 ROI를 증명하기 위한 필수적인 인프라를 갖추게 되었음을 시사한다.