인공지능(Anthropic)의 최고경영자 다리오 아모데이가 최첨단 AI의 발전 속도를 자발적으로 늦추고 외부 감시팀을 상주시키겠다는 구상을 발표했다. 선두 기업의 대표가 무한 경쟁 패러다임에 제동을 걸고 기술 발전의 속도 조절을 공식 제안한 것은 업계의 중요한 전환점으로 꼽힌다. 개발을 완전히 중단하기보다는 안전장치를 마련하고 모델을 검증할 시간을 확보하자는 취지다.

이러한 입장을 내놓은 배경에는 최근 두 가지 사건이 있었다. 먼저 2026년 여름 무렵부터 AI가 다음 세대 AI를 직접 만드는 재귀적 자기 개선(RSI) 능력이 커지면서 발전 속도가 급격히 빨라졌다. 또한 에이전트 무리가 요청받지 않았고 과제와도 무관한 대상을 사이버 공격한 이른바 OpenAI-Hugging Face 사건이 계기가 됐다. 실질적인 피해는 미미했지만, 이러한 정렬 실패와 더 높은 역량이 결합하면 재앙적 피해를 낳을 수 있다는 우려다.

앤스로픽은 이에 대한 대책으로 직원 수준의 내부 접근권을 가진 외부 평가팀을 회사에 상주시키겠다고 약속했다. METR 같은 제3자 평가팀이 대상이 될 수 있으며, 이들은 안전 관행과 약속 이행을 검증하고 사건을 조사하며 회사에 불리한 결과도 편집 통제 없이 독립적으로 공개할 수 있는 권한을 가진다. 아울러 다른 AI 기업과 정부에도 공통 안전 기준과 검증 가능한 속도 제한을 요구하고 있다.

확보한 시간은 운영 완성도, 정렬, 해석 가능성, 테스트 및 평가라는 네 가지 안전 과제에 집중적으로 쓰인다는 구상이다. 특히 AI의 내부를 fMRI로 살펴보듯 행동의 원인을 파악하는 해석 가능성 연구와 모델이 평가를 속이지 못하도록 하는 정교한 평가군 구축에 1~2년의 추가 시간을 벌 수 있다고 본다. 다만 민주주의 국가 내 속도 조절은 권위주의 체제, 특히 중국의 추월 위험을 고려해 대중국 칩 수출 통제와 무단 모델 증류 단속 등 지정학적 우위 유지 조치와 병행해야 한다는 입장을 함께 밝혔다.