Hugging Face(AI 모델 공유 플랫폼)가 이번 주 Amazon SageMaker AI(클라우드 기반 머신러닝 서비스)의 학습 워크플로우에 Fine-Tuning FLOPs Meter(학습 연산량 측정 도구)를 통합했다. 이 도구는 모델 미세 조정 시 발생하는 연산량을 실시간으로 추적해 EU AI Act(유럽연합 AI 법안) 준수 여부를 판별한다. 개발자는 이제 설정값 하나로 자신이 단순 사용자에서 법적 책임이 큰 모델 제공자로 바뀌었는지 즉시 확인할 수 있게 됐다.

EU AI Act의 30% 룰과 과징금 리스크

EU AI Act는 2025년 8월 2일부터 일반 목적 AI(GPAI, 범용 인공지능) 모델에 대한 새로운 요구사항을 적용한다. 핵심은 30% 임계값이다. 기존 모델 학습에 사용된 연산량의 3분의 1을 초과해 미세 조정을 하면 단순 사용자에서 GPAI 모델 제공자로 재분류된다. 기준 수치는 3.3×10²² FLOPs(부동 소수점 연산 횟수)다. 제공자로 분류되면 데이터 소스 공개와 저작권법 준수 증명이 의무화되며, 위반 시 최대 1,500만 유로 또는 전 세계 연간 매출액의 3% 중 높은 금액이 과징금으로 부과된다.

수동 계산에서 자동 감사 추적으로의 전환

예전에는 개발자가 모델 아키텍처를 일일이 분석해 연산량을 수동으로 계산하거나 추측해야 했다. 이제는 Amazon SageMaker Generative AI recipes 저장소의 오픈소스 툴킷을 통해 이 과정이 자동화된다. 작동 방식은 세 단계로 나뉜다. 먼저 LoRA(저차원 적응, 일부 파라미터만 학습시키는 기법)나 Spectrum(효율적 미세 조정 방식) 같은 학습 방법별 예상 연산량을 미리 비교한다.

실제 학습 중에는 Hugging Face TrainerCallback(학습 과정을 모니터링하는 도구)과 NVML(NVIDIA GPU 관리 라이브러리)을 사용해 실시간으로 FLOPs를 측정한다. 마지막으로 결과물을 JSON 형식으로 저장해 Amazon S3(클라우드 저장소)나 Amazon DynamoDB(빠른 응답 속도의 NoSQL 데이터베이스)에 기록함으로써 감사 증빙 자료로 활용한다. 설정은 간단하다. `compute_flops: true`라는 단 한 줄의 설정만으로 모든 추적 기능이 활성화된다.

개발자가 바로 체감하는 변화는 규제 대응의 자동화다. 툴킷은 분석적 방법과 하드웨어 기반 상한선 측정 방식을 모두 제공하며, EU AI Act 보고에 필요한 필드를 포함한 감사 준비 문서를 자동으로 생성한다. 이를 통해 기업은 미세 조정 작업이 규제 임계값을 초과하는지 실시간으로 감시하고 법적 리스크를 사전에 차단할 수 있다.

규제가 기술적 제약이 되는 시대에 연산량 측정은 이제 성능 최적화가 아니라 생존을 위한 법적 방어선이 됐다.