CEO Dario Amodei는 오픈

미국 정부의 중국산 오픈 웨이트 모델 금지나 일반적인 모델 금지를 지지했다는 주장은 공식적으로 부인됐다. Anthropic의 CEO Dario Amodei는 이러한 금지 조치가 유용한 수단이 아니라는 점을 명확히 했다. 그는 의구심이 남지 않도록 Anthropic이 오픈 웨이트 모델 금지를 옹호한 적이 없음을 분명히 했다. 위험한 능력이 배제된 오픈 웨이트 모델은 기업과 개발자, 연구자에게 실질적 가치를 제공하는 공공재라는 판단이다.

중국 공산당(CCP)을 포함한 전 세계가 참여하는 모델 안전성 테스트 기구 창설에는 동의한다. 모델의 개방 여부나 소속 국가와 관계없이 가장 역량이 높은 모델들에 테스트를 적용하는 방안을 지지한다. 특히 생물학 무기 방지라는 공통의 이익을 달성하기 위해 중국과의 제한적 협력이 가능하다고 보았다. 미국이 주도하는 안전성 테스트 기구 창설 노력에 지지를 보내며, 전 세계가 해당 기구의 통제에 동의하고 참여하는 조건이 전제되어야 한다는 관점이다.

중국의 AI 발전을 저지하기 위해 고성능 칩 접근 제한

고성능 칩 접근 제한과 증류(distillation) 단속이 중국의 AI 발전 저지책으로 제안됐다. 증류는 한 AI 모델이 다른 모델에 프롬프트를 쏟아부어 그 작동 방식을 학습하는 기법이다. Dario Amodei는 이 과정을 지적 재산권(IP) 절취의 한 방법으로 규정했다. 이에 따라 단순한 하드웨어 제어를 넘어, 모델의 학습 방식을 가로채는 행위에 대한 공식적인 단속이 필요하다고 주장했다. 미국이 오랫동안 유지해 온 고성능 칩 접근 제한 정책에 기술적 복제 경로 차단을 추가하려는 의도다.

정책 입안자들에게 성급한 규제를 가하지 말라는 요청이 주요 AI 기업들을 통해 전달됐다. Jensen Huang은 X를 통해 Hugging Face, Meta, Microsoft, Mistral, Nvidia 등 다수의 AI 기업이 참여한 공개 서한을 공유했다. 이들은 오픈 웨이트(open-weight, 모델의 가중치 값을 공개해 외부에서 수정 및 사용이 가능한 형태) 모델에 대해 광범위하고 성급한 제한을 가하는 것에 반대했다. 규제 도입의 시급성보다 기술 개방의 가치에 무게를 둔 대응이다.

권위주의 정부가 미국보다 강력한 AI 모델을 구축하여 군사적

영구적인 군사적 우위 확보는 권위주의 정부가 미국보다 강력한 AI 모델을 구축했을 때 발생 가능한 시나리오다. Dario Amodei는 여러 권위주의 정부가 AI를 통해 국민을 억압하거나 군사적 우위를 점하는 상황을 우려하며, 그중 중국 공산당(CCP)을 가장 역량 있는 집단으로 지목했다. 그는 이러한 국가들이 AI 기술을 통해 도달할 수 있는 영구적인 군사적 패권 가능성에 대해 장기적인 공포를 가지고 있다고 밝혔다.

생물학적 공격 가능성은 오픈 웨이트 모델이 가진 치명적인 리스크다. UK AI Security Institute(영국 AI 안전 연구소) 보고서에 따르면 한 번 공개된 오픈 웨이트는 다시 회수하는 것이 불가능하다. 가드레일 적용과 실시간 사용 모니터링이 어렵다는 특성은 단순한 사이버 보안 위협을 넘어 생물학적 공격을 가능하게 하는 위험 요소가 된다. 오픈 웨이트 모델은 한 번 출시되면 통제가 불가능하기 때문에 이러한 시나리오에서 더 위험하다는 분석이다.

오픈 웨이트 모델의 도입 여부는 비용 절감과 연구 가치라는 공공재적 효용보다, 가드레일 부재로 인한 생물학적 무기 전용 및 증류를 통한 IP 탈취 리스크가 더 큰지를 구분하는 보안 통제 기준에 따라 결정해야 한다.