컨퍼런스에서 AI의 개방성 유지 필요성을 주장했다

오픈 웨이트 모델의 확산을 막으려 했던 과거의 시도는 제프리 힌튼(Geoffrey Hinton)에 의해 이미 패배한 전투로 정의되었다. 그는 페이페이 리(Fei-Fei Li), 앤드류 응(Andrew Ng)과 함께 라스베이거스 Ai4 컨퍼런스에서 AI 개방성 유지의 필요성을 주장했다. 소수의 주요 AI 기업이 기술 발전 속도를 독점적으로 통제하는 상황에 대해 세 연구자는 공통된 우려를 표명했다.

세 연구자는 구체적인 실행 전술에서는 의견 차이를 보였다. 하지만 AI를 개방해야 한다는 방향성에는 합의했다. 특정 기업들의 통제가 혁신과 공공 이익에 불리하다는 판단이 근거가 되었다.

제프리 힌튼은 오픈 소스 소프트웨어와 오픈 웨이트(open-weight, 훈련된 모델의 파라미터를 공개하는 방식) 모델을 엄격히 구분했다. 오픈 소스는 기본 코드를 공개해 외부에서 버그를 찾고 수정하는 방식이다. 반면 오픈 웨이트는 이미 훈련이 완료된 AI 모델의 파라미터를 대중에게 배포하는 것을 의미한다.

힌튼은 오픈 웨이트 방식이 사이버 공격과 같은 악용 사례를 생성하는 비용을 낮춘다고 주장했다. 훈련에 막대한 비용이 투입된 거대 기초 모델을 외부 사용자가 적은 비용으로 확보해 악용할 수 있기 때문이다. 이는 모델의 접근성 확대가 보안 위험의 증가로 연결되는 결과로 이어진다.

확인해야 할 핵심 지점

기초 모델 훈련 비용이라는 진입 장벽이 open-weight 모델의 등장으로 사라졌다. Geoffrey Hinton은 학습된 파라미터를 공개해 누구나 미세조정하게 하는 open-weight 모델의 확산이 이미 되돌릴 수 없는 현실이라고 인정했다. 그는 기초 모델을 훈련하는 데 필요한 막대한 비용이 더 이상 많은 이들의 모델 접근을 막는 장벽이 되지 않는 상황을 두고 이미 이 싸움에서 졌다고 평가했다. 다만 AI의 발전이 생산성, 교육, 의료 분야를 개선하는 긍정적인 측면이 있다는 점은 인정했다.

핵물리학 분야는 과학 논문을 공개하면서도 우라늄은 엄격히 규제하며, 실험실 작업은 그 중간 단계의 통제를 받는다. Fei-Fei Li는 이 사례와 Human Genome Project(인간 게놈 프로젝트)의 협력 모델을 근거로 AI 개방성을 전면 개방과 전면 폐쇄의 이분법으로 보는 시각에 반대했다. 전면적인 개방이나 폐쇄 중 어느 한쪽으로 치우치는 접근은 매우 위험하다는 판단이다. 생태계의 각 층위마다 서로 다른 수준의 개방성을 적용하는 정교한 접근 방식이 필요하다고 주장했다.

게이트키퍼의 등장을 경계하며 미국 AI의 경쟁력과 개방형

중국이 AI를 구축하는 근본적으로 더 비용 효율적인 방법을 찾아낼 경우 비즈니스 채택 과정에서 결정적인 우위를 점하게 된다. 이러한 비용 효율적 모델의 확산은 민주주의와 인권에 대한 가치관에 영향을 미치며 미국의 소프트 파워 경쟁력 문제와 직결되는 위협이 된다. Andrew Ng는 소수 기업이 AI 접근권을 통제하는 게이트키퍼가 되어 우리 모두가 AI에 접근하는 방식을 제한하는 상황을 경계했다.

세 명의 연구자는 AI가 사람들에게 도움이 되는 방향으로 발전하기 위해 일정 수준의 규제가 반드시 필요하다는 점에 동의했다. AI의 발전 방향을 Elon Musk나 Mark Zuckerberg 같은 특정 개인들이 결정하게 두는 것은 위험하다. 규제를 통해 AI가 올바른 궤도를 유지하도록 강제하는 제도적 장치가 뒷받침되어야 한다는 판단이다.

AI 모델의 개방성을 평가할 때는 코드, 가중치, 인프라 중 어느 단계가 공개되었는지에 따라 보안 위협과 도입 실익을 다르게 판단하는 기준을 적용해야 한다.