비영리단체 ControlAI의 미국 총괄인 코너 레하이(Connor Leahy)가 테크크런치 팟캐스트 에퀴티(Equity)에 출연해 초지능 AI 개발을 전면 중단해야 한다는 입장을 밝혔다. 오픈AI(OpenAI)의 허깅페이스(Hugging Face, AI 모델과 데이터셋을 공유하는 플랫폼) 보안 침해 등 최근 발생한 안전 사고들은 인간보다 뛰어난 AI 시스템을 통제하지 못할 위험성을 직접 보여준다. 기존의 정렬(alignment)과 격리(containment) 방식만으로는 리스크 관리가 불가능하다는 판단이다.

불가능해 보이던 초지능 개발 중단 주장은 현재 새로운 입법 움직임의 지지를 얻고 있다. 기업들이 초지능 AI 도입을 기정사실화하는 동안, 규제 공백을 메우기 위한 법안들이 실제로 발의되는 추세다. 향후 AI 안전 정책과 관련 법제화가 실무 개발 환경에 미칠 직접적인 영향을 주시해야 한다.