교황 레오 14세가 인공지능 시대의 인간 보호를 주제로 한 첫 회칙 'Magnifica Humanitas(위대한 인류애)'를 발표했다. 앤스로픽(Anthropic)의 공동 창업자 크리스 올라(Chris Olah)와 함께 공개한 이 200페이지 분량의 문건은 AI라는 기술적 도구를 넘어, 그 배후에 숨은 권력의 집중과 불평등이라는 오래된 사회적 난제를 정면으로 겨냥한다. 특히 기술을 소수 엘리트가 독점하고 통제할 때 발생하는 불투명성과 공공 감시의 부재가 어떻게 새로운 의존성과 배제, 조작을 낳는지 경고한다.

이번 발표는 최근 도널드 트럼프 대통령이 벤처캐피털 투자자 데이비드 삭스(David Sacks)의 권고로 AI 모델 출시 전 정부 감독을 골자로 한 행정명령 서명을 미룬 시점과 맞물려, 기술 패권과 규제 사이의 팽팽한 긴장감을 드러낸다. 교황은 AI가 경제적 자원과 데이터 접근권을 가진 이들의 권력을 증폭시켜, 결국 정보 소비 패턴과 민주적 프로세스까지 그들의 입맛에 맞게 조종할 위험이 크다고 분석한다. 이는 단순한 윤리적 가이드라인을 넘어, 기술 권력이 곧 통치 권력으로 변모하는 현상에 대한 강력한 제동 장치를 요구하는 것이다.

핵심 변화

교황 레오 14세가 AI 시대의 인간 보호를 주제로 한 회칙 'Magnifica Humanitas'를 발표했다. Anthropic(앤스로픽)의 공동 창립자인 Chris Olah와 함께 제시한 이 문서는 총 200페이지에 달하는 방대한 분량이다. 회칙은 AI 기술이 단순한 도구를 넘어 불평등과 전쟁, 민주주의 침식, 그리고 극심한 권력 집중이라는 보편적인 사회 문제를 야기하고 있다는 점을 명시했다. 지금 기술 커뮤니티에서는 종교 지도자가 최신 AI 기업의 핵심 인물과 손잡고 기술의 위험성을 경고했다는 사실 자체에 주목하고 있다.

특히 AI가 경제적 자원과 데이터 접근권을 선점한 이들의 권력을 비정상적으로 증폭시켜 민주적 프로세스를 왜곡할 수 있다는 경고가 뜨겁다. 회칙은 AI가 이미 자원과 전문성을 가진 소수 엘리트의 힘을 강화하는 방향으로 작동하고 있다고 분석했다. 이들이 데이터 권력을 통해 정보의 흐름과 소비 패턴을 인위적으로 형성하고, 경제적 역학 관계를 자신들의 이익에 맞게 조종함으로써 민주주의의 근간을 훼손할 수 있다는 우려를 강하게 제기했다.

이번 회칙은 1891년 산업혁명 당시의 권력 집중 문제를 다뤘던 'Rerum Novarum'의 역사적 맥락을 계승한다. 현대 사회의 AI 권력 집중 현상이 과거 산업혁명 시기에 나타났던 권력의 이동과 역동성에서 유사한 패턴을 보인다는 분석이다. 구체적으로는 일론 머스크의 Twitter(트위터) 인수와 그 플랫폼을 통한 정치적 영향력 행사, 그리고 AI 규제를 막기 위해 테크 엘리트들이 슈퍼 PAC(정치활동위원회)에 쏟아부은 수억 달러의 자금 유입 등이 이번 'Magnifica Humanitas'를 집필하게 만든 결정적인 배경이 되었다.

기존과의 차이

지금 개발자 커뮤니티에서 가장 뜨거운 논쟁은 기술의 성능이 아니라 그 제어권이 누구에게 있느냐는 지점이다. 레오(Leo)는 소수 엘리트에 의해 구축되고 관리되는 기술은 정의상 공공의 이익에 기여할 수 없다고 주장했다. 권력이 소수에게 집중되면 시스템은 필연적으로 불투명해지고 공적 감시를 피하게 되며, 이는 결국 새로운 형태의 의존성과 배제, 그리고 조작과 불평등을 초래하는 위험을 키운다는 분석이다. 특히 이러한 권력 집중은 왜곡된 형태의 발전을 야기하며, 기술이 소수의 이익만을 대변하는 도구로 전락할 수 있다는 경고가 커뮤니티의 핵심 쟁점으로 떠올랐다.

단순히 더 강력한 알고리즘과 더 큰 데이터셋을 추구하는 AI 군비 경쟁의 종식을 촉구하는 목소리도 높다. 지정학적 또는 상업적 지배력을 확보하기 위해 무한 경쟁을 벌이는 현재의 흐름을 멈춰야 한다는 강조다. 특히 기술적 권력이 자동으로 통치 권한을 부여한다는 가정을 부정해야 한다는 주장이 핵심이다. 이는 기술적 우위가 곧 지배의 정당성이 될 수 없음을 분명히 하는 무장 해제와 같으며, 그 대안으로 AI가 영향을 미칠 실제 공동체의 참여를 기반으로 한 명확한 기준과 효과적인 감시 체계가 구축되어야 한다는 구체적인 방향성이 제시되었다.

현장에서 체감하는 위협은 더욱 구체적이고 즉각적이다. AI 기반의 오정보와 딥페이크(Deepfake, 인공지능을 이용해 만든 가짜 영상이나 음성)는 사람들이 진실을 인식하는 능력을 부식시켜 민주적 정치에 심각한 영향을 미치고 있다. 여기에 더해 인간 데이터를 수집하고 조작하는 산업 관행은 인지적 자유(cognitive freedom, 외부의 조작 없이 자신의 생각을 결정할 권리)에 근본적인 도전 과제를 제기한다. 이는 단순한 기술적 오류의 문제가 아니라 민주적 정치와 인간의 자유에 대한 실존적 위협으로 읽히며, 데이터 수집이라는 산업적 행위가 어떻게 인간의 인지 능력을 제약하고 조작할 수 있는지에 대한 논쟁으로 번지고 있다.