모델 계보 검증의 공백과 데이터베이스 공개

허깅페이스(Hugging Face)의 모델 저장소 페이지에서 제공하는 베이스 모델 태그(`base_model`)는 업로더가 직접 입력한 문자열에 의존한다. 플랫폼 차원에서 가중치 수준의 분석을 통해 이 주장을 검증하도록 요구하지 않기 때문에, 실제 모델의 기원과 선언된 계보가 일치하는지 확인할 방법이 없었다. 인터커넥츠 AI(Interconnects AI)가 2026년 4월 발표한 ATOM 리포트에 따르면, 2026년 2월 기준 신규 오픈 모델 파생형의 69%가 알리바바의 Qwen 제품군을 부모 모델로 선언했다. 이는 2024년 1월의 1%에서 급증한 수치이며, 중국 연구소 모델이 전체의 70%를 차지한다.

이런 검증 공백을 메우기 위해 시스코(Cisco)가 공개한 'AI 공급망 프로비넌스 익스플로러'는 약 900개 오픈 모델의 계보 그래프, 제공자 본사 위치, 라이선스 제한, 파일 스캔 횟수를 담은 무료 공개 데이터베이스다. 이 도구는 지난 4월 공개된 오픈 소스 파이썬 툴킷인 '모델 프로비넌스 키트(Model Provenance Kit)'를 확장한 결과물이다. 기존 키트가 45개 이상의 제품군과 20개 이상의 발행사에서 약 150개 베이스 모델을 핑거프린팅했다면, 익스플로러는 한 분기 만에 커버리지를 약 6배 확대했다. 특히 사용자가 수십 기가바이트의 가중치를 직접 다운로드해 로컬 환경에서 분석해야 했던 CLI 방식에서 벗어나, 시스코가 미리 계산한 결과를 검색창 하나로 확인할 수 있게 됐다.

가중치 핑거프린팅 및 행동 분석 메커니즘

검증 과정은 먼저 아키텍처 메타데이터를 비교하는 1단계와, 메타데이터가 모호할 때 수행하는 2단계 가중치 레벨 신호 추출로 구성된다. 2단계에서는 다음 다섯 가지 신호를 통해 모델 간 유사도를 측정한다.

- Embedding Anchor Similarity: 파인튜닝 후에도 유지되는 기하학적 관계 캡처

- Embedding Norm Distribution: 단어 빈도 패턴 인코딩

- Norm Layer Fingerprint: 파인튜닝 과정에서 안정적인 레이어 판독

- Layer Energy Profile: 네트워크 깊이에 따른 분포 비교

- Weight-Value Cosine: 가중치 값 직접 비교 (독립적으로 학습된 모델은 상관관계가 거의 0에 수렴)

토크나이저 신호는 진단용으로만 계산하고 최종 프로비넌스 점수에서는 제외했다. StableLM과 Pythia처럼 가중치 계보는 다르지만 GPT-NeoX 토크나이저를 공유하는 경우 발생하는 오탐(False Positive)을 방지하기 위해서다. 여기에 정적 분석 외에 행동 핑거프린팅(Behavioral fingerprinting) 방식을 통합해, 가중치 업데이트나 양자화, 라우팅으로 인해 런타임에서 정체성이 변하는 '아이덴티티 드리프트' 현상까지 추적한다.

성능 측정 결과, 시스코는 0.70 임계값의 111개 쌍 벤치마크에서 96.4%의 정확도와 0.963의 F1 스코어를 기록했다고 밝혔다. 오분류된 4개 사례는 모두 극심한 아키텍처 변형이 일어난 경우로, 시스코는 이를 쌍별 가중치 비교의 근본적인 한계로 정의했다. 또한 라이선스 위반 오탐을 줄이기 위해 모호한 쌍은 독립 모델로 분류하는 보수적인 기준을 적용했다.

보안 거버넌스와 규제 대응의 한계

기존 소프트웨어 구성 분석(SCA) 도구들은 의존성 매니페스트나 컨테이너 이미지 검사에 최적화되어 있어, AI 워크플로우의 모델 소스나 런타임 검증에는 효과적이지 않다. 시스코는 내부적으로 '세르베루스(Cerberus)' 시스템을 통해 허깅페이스에 진입하는 모델을 검사하고, 위험한 라이선스나 원산지 지역에 따라 보안 액세스 정책으로 차단하는 운영 체계를 갖추고 있다. 익스플로러는 이러한 기업용 보안 기능을 일반 사용자에게 무료 검색 형태로 제공하는 것이다.

규제 환경의 변화는 모델 검증의 시급성을 높인다. 8월 2일부터 시행되는 유럽연합(EU) AI법은 범용 AI(GPAI) 모델 제공자에게 최대 1,500만 유로 또는 전 세계 매출액의 3% 중 높은 금액의 과징금을 부과할 수 있다. 특히 원본 모델의 3분의 1 이상의 컴퓨팅 자원을 투입해 수정하고 시장에 출시한 조직은 제공자 지위를 갖게 된다. Llama나 Gemma 같은 모델은 커뮤니티 라이선스 조건으로 인해 EU AI법의 오픈 소스 면제 조항(제53조 2항)을 충족하지 못할 가능성이 크며, 이들의 파생 모델을 사용하는 기업은 법적 리스크를 안게 된다.

다만 익스플로러가 커버하는 900여 개의 모델은 허깅페이스에 등록된 200만 개 이상의 모델 규모에 비하면 극히 일부다. 범위 밖의 모델은 여전히 업로더의 자가 보고 태그에 의존해야 한다. 또한 현재 API 형태로 제공되지 않아 보안 팀이 모델 검증 절차를 CI(지속적 통합) 게이트에 자동화하여 연결할 수 없으며, 수동 조회 방식으로만 운영해야 한다는 제약이 있다.

실무자는 모델 도입 시 허깅페이스의 태그를 맹신하지 말고 익스플로러의 가중치 기반 계보와 라이선스 제한 사항을 대조해 EU AI법 등 규제 준수 여부를 수동으로 교차 검증해야 한다.