인공지능 기업 앤스로픽(Anthropic)의 최고경영자(CEO) 다리오 아모데이(Dario Amodei)가 AI 모델의 성능 향상 속도를 늦추고 외부 검증 기관의 상시 감시를 수용하겠다고 선언했다. 테크크런치(TechCrunch) 등의 보도에 따르면, 이는 최근 AI 기술이 스스로 다음 세대 AI를 구축하는 등 예상보다 훨씬 빠르게 발전하고 보안 사고가 잇따른 데 따른 조치다. 아모데이 대표는 인공지능 개발의 속도를 조절해야 한다며, 앤스로픽이 단독으로라도 이를 이행하겠다고 밝혔다.

제3자 감시관 도입과 자발적 규제

아모데이 대표가 제시한 첫 번째 전략은 METR과 같은 외부 조직의 평가위원을 기업 내부에 배치하는 방안이다. 이들은 사내에 상주하며 회사가 안전 약속을 실제로 준수하는지 검증하고 안전 사고를 보고하는 역할을 맡는다. 앤스로픽은 평가위원들에게 사원증과 책상, 노트북을 제공하고 내부 리스크 평가팀에 준하는 접근 권한을 부여하기로 했다. 아모데이는 이를 은행에 파견되는 규제 기관에 비유하며 다른 선두 기업들도 정부 요구를 통해 이를 따를 것을 촉구했다.

업계 공조와 남겨진 과제

아모데이는 민주당 국가 내 주요 AI 기업들이 공통 안전 기준과 무분별한 진전에 대한 제한을 조율해야 한다고 주장했다. 다만 이러한 기업 간 공조는 담합이나 반독점법 위반 우려가 있어 미국 정부가 안전 관련 논의에 한해 면제 조치를 발행하는 등 중재 역할을 해야 한다고 덧붙였다. 중국의 AI 우세 우려에 대해서는 첨단 반도체 및 장비 판매 거부와 모델 증류 단속을 통해 미국의 우위를 유지할 수 있다고 언급했다.

업계의 엇갈린 시선

이번 선언을 두고 일각에서는 AI 기술의 잠재적 위험을 경고하는 목소리에 힘이 실린다는 평가가 나온다. 반면 일부 비평가들은 이러한 제안이 대기업에 유리한 규제 포획(regulatory capture)의 일종일 수 있으며, 실재하지 않는 종말론적 위험을 부각해 현재 AI가 야기하는 실제 피해로부터 시선을 분산시킨다고 비판하고 있다. 앤스로픽 측은 여전히 AI가 인류의 삶을 크게 개선할 수 있다고 믿지만, 올바른 방식으로 기술을 구축하기 위해 이례적인 신중함이 필요하다고 반박했다.