발표에서 확인된 핵심 사실

더 똑똑한 AI를 먼저 만드는 쪽이 세상을 지배한다는 믿음 아래 거대 기업들이 무한 경쟁을 벌이고 있다. 이러한 속도전이 가져올 위험을 막기 위해 초지능(인간의 능력을 모든 면에서 뛰어넘는 지능) 전환 시점을 2040년으로 늦추는 국제 합의 시나리오인 Plan A가 제시됐다.

이 시나리오는 AI 연구 내용을 투명하게 공개해 여러 국가와 기업이 함께 개발 전선에 참여하는 방식을 취한다. 특정 집단이 기술을 독점하지 않도록 인간의 능력 범위 내에서 천천히 성능을 확장한 뒤, 2040년에 이르러서야 초지능으로 전환하는 것이 목표다. 무분별한 경쟁보다 공동의 통제 속에서 안전하게 성장해 위험을 분산하고 예측 가능성을 높이겠다는 전략이다.

국제적인 합의가 이뤄지기 전까지는 시간을 벌기 위한 단계적 조치들이 필요하다. AI R&D(연구개발)에 투입되는 컴퓨트 예산(연산 자원 규모)을 제한하고, 기업 내부에서만 쓰는 모델과 외부에 배포하는 모델의 성능 격차를 줄이는 정책이 포함된다. 모델의 상세 명세와 내부 사용 내역을 공개하고 검증 기술에 투자하는 일도 함께 추진한다. 정부가 직접 AI 인재를 확보하고 칩 공급망 정보를 수집하며 수출 통제를 집행하는 구체적인 실행 방안도 권고된다. 기술 폭주를 막기 위해 국가 차원의 관리 체계를 먼저 세워 실질적인 생존 전략을 짜라는 뜻이다.

확인해야 할 핵심 지점

어제까지 불가능해 보였던 작업이 이제는 명령어 몇 줄로 해결되는 시대다. 2029년 미국과 중국이 무모한 초지능 경쟁을 피하기로 합의하는 것이 Plan A의 출발점이다. 2030년이면 AI가 스스로 연구개발(R&D, 새로운 기술을 찾아내고 제품으로 만드는 과정)을 완전히 자동화해 연말까지 초지능에 도달할 수 있는 시점이 오지만, 합의를 통해 이를 의도적으로 피한다. 이후 2035년까지는 AI의 능력을 최고 수준의 인간 전문가와 비슷한 정도까지만 확장하며 철저히 인간의 능력 범위 안에서 관리한다. 2035년에는 인간의 통제권을 완전히 유지하기 위해 개발을 일시 중단하고, 2040년에 이르러서야 중단을 해제해 초지능으로 확장하는 AI 2040의 단계를 밟는다. 인류가 기술의 속도에 끌려가지 않고 제어권을 쥐기 위한 구체적인 시간표다.

즉각적인 초지능 경쟁에 뛰어드는 Plan D나 수개월 정도만 제한적으로 속도를 늦추는 Plan C 같은 대안도 함께 검토된다. 하지만 이런 방식은 AI 통제 실패와 권력 집중을 막기에 턱없이 부족하다는 분석이다. 특정 국가나 기업이 초지능을 먼저 손에 쥐었을 때 발생하는 권력의 불균형을 제어할 수 없으며, 이는 타국의 불안을 극대화해 결국 세계대전이라는 파멸적인 위험을 높이는 결과로 이어진다. AI 개발 속도를 조절하는 일은 단순한 윤리적 논쟁을 넘어 권력 독점과 국제적 충돌을 막기 위한 실질적인 생존 전략으로 작동한다.

초지능 AI 개발 시 정렬 여부와 관계없이 극소수에 의한 전례

권력은 언제나 가장 효율적인 도구를 가진 소수에게 쏠린다. AI가 인간의 의도대로 움직이도록 만드는 정렬 기술이 성공하더라도 위험은 사라지지 않는다. 세계 유일의 초지능 군단을 한 사람이나 극소수가 수개월 동안 독점한다면 사실상 지구 전체를 장악하는 것과 다름없다. 초지능이 내놓는 선택지 중 일부는 그 자체로 세계를 지배하는 결과로 이어질 수 있기 때문이다. 기술적 안전장치보다 더 무서운 것은 전례 없는 권력의 집중이다.

Plan A는 이를 막기 위해 연구개발 과정을 완전히 공개하고 컴퓨트 기반의 상호 억제 체제를 세운다. 컴퓨트는 AI 학습에 필요한 연산 자원인 반도체와 서버 인프라를 뜻한다. 특히 상호확증 컴퓨트 파괴라는 전략을 도입한다. 상대의 연산 자원을 파괴하면 내 자원도 함께 파괴되는 구조를 만들어 어느 한쪽이 비밀리에 앞서나가려는 시도를 원천 차단하는 방식이다. 투명한 정보 공개와 국가 간 검증 가능한 안전장치가 이 체제의 핵심이다.

소수 기업이 밀실에서 속도전을 벌이는 대신 여러 국가의 수십 개 기업이 함께 확장하는 구조를 설계한다. 서로의 진행 상황을 감시하며 어느 누구도 독점적 우위를 점하지 못하게 묶어두는 것이다. 개발 속도를 조절하는 것은 단순한 윤리적 선택이 아니라 권력 독점과 국제 전쟁을 막기 위한 실질적인 생존 전략이다.

OpenAI 같은 거대 기업들이 인간보다 똑똑한 AI를 먼저 만들려고 벌이는 무한 경쟁은 이제 멈춤 버튼이 필요한 시점이다. 플랜 A는 연구 내용을 투명하게 공개해 초지능 도달 시점을 2040년으로 늦추는 시나리오다. AI가 스스로 AI를 개발하는 자동화 단계를 피해 2035년 인간 전문가 수준에서 개발을 일시 중단하겠다는 구체적인 시간표를 전제로 한다. 결국 AI의 속도를 늦추는 합의는 기술적 양보가 아니라, 특정 소수가 세상을 지배하는 시나리오를 막기 위한 유일한 안전장치다.