교황 레오 14세가 회칙 'Magnificent Humanity(Magnifica Humanitas)'를 통해 소수 민간 기업이 통제하는 '불투명한 알고리즘'이 인간 소외의 새로운 형태를 초래할 수 있음을 경고했다. 이번 회칙은 AI 기술이 최근 미국과 이스라엘의 이란 전쟁에 활용된 점을 지적하며, 기술 권력이 소수에게 집중되는 현상의 위험성을 강조한다. 특히 기술 혁신이 '이윤의 우상화'에 의해 주도되어서는 안 된다는 점을 분명히 했다.

주목할 점은 교황이 이례적으로 바티칸에서 직접 회칙을 발표하며, 주요 AI 개발사인 앤스로픽(Anthropic)의 창업자 크리스토퍼 올라(Christopher Olah)를 동석시켰다는 사실이다. 앤스로픽은 지난 1년간 종교 커뮤니티를 대상으로 한 행사를 개최하고 기독교 지도자들을 본사로 초청하는 등 영성 관련 AI 개발 논의를 지속해 왔다. 반면, 앤스로픽의 다리오 아모데이(Dario Amodei) CEO는 지난 2월 미 국방부가 AI 어시스턴트 클로드(Claude, 앤스로픽의 LLM)의 무제한 사용 권한을 요구하자 이를 거부하며 도널드 트럼프 대통령 및 국방부와 충돌한 바 있다.

핵심 변화

교황 레오 14세가 AI 규제를 촉구하는 회칙 'Magnificent Humanity'를 발표했다. 소수 권력 기업이 통제하는 불투명한 알고리즘이 새로운 형태의 비인간화를 초래할 수 있다는 경고가 핵심이다. AI 기술이 소수의 손에 머물러서는 안 되며, 특히 이윤의 우상화에 의해 기술 발전이 주도되는 상황을 경계해야 한다고 강조했다. 이는 기술의 소유 구조와 운영 방식이 인간의 존엄성을 훼손할 수 있다는 우려를 반영한다.

주목할 점은 단순한 윤리적 권고를 넘어 AI 가속화를 제어할 수 있는 강력한 법적 프레임워크와 정치적 개입을 요구했다는 사실이다. 모든 것이 가속화되는 현재의 흐름을 인위적으로 늦출 수 있는 더 적극적인 정치적 개입이 필요하다는 논리다. 이를 위해 견고한 법적 프레임워크와 독립적인 감시 체계, 정보에 밝은 사용자, 그리고 책임을 회피하지 않는 정치 시스템의 구축을 구체적으로 촉구했다. 기술의 발전 속도가 정치적 통제 능력을 앞지르는 상황에 대한 실질적인 제동 장치를 요구한 것이다.

반면 실제 산업 현장에서는 AI의 무제한적 사용 권한을 두고 기업과 정부 간의 충돌이 구체적인 사례로 나타나고 있다. 지난 2월 Anthropic의 CEO 다리오 아모데이는 미 국방부(Department of Defense)가 AI 어시스턴트 Claude에 대해 군의 무제한적 사용 권한을 부여하라는 요구에 불응했다. 이 과정에서 다리오 아모데이는 도널드 트럼프 대통령 및 미 국방부와 충돌하며 AI 제어권을 둘러싼 대립각을 세웠다. 이는 AI의 군사적 활용과 그에 따른 통제권 문제를 두고 민간 기업이 국가 권력의 요구를 거부한 실례에 해당한다.

기존과의 차이

교황 레오 14세는 Anthropic의 설립자 크리스토퍼 올라와 함께 회칙 'Magnifica humanitas'를 직접 발표하는 이례적인 행보를 보였다. 교황이 회칙 발표 행사에 직접 참석하는 사례는 극히 드물며, 이는 이번 발표가 갖는 상징성을 보여준다. 반면 Anthropic은 지난 1년간 종교 커뮤니티를 대상으로 여러 행사를 개최하고 기독교 지도자들을 본사로 초청하여 영적 문제와 AI 개발 방향을 논의하는 등 사전 접점을 넓혀왔다.

총 5개 장으로 구성된 회칙 'Magnifica humanitas'의 기저에는 기술이 인류에 적대적이거나 본질적으로 악한 것은 아니라는 전제가 깔려 있다. 그러나 바티칸 뉴스(Vatican News)는 기술이 결코 중립적일 수 없음을 명시했다. 주목할 점은 기술이 그것을 설계하고 금융 지원을 하며 규제하고 사용하는 사람들의 특성을 그대로 반영한다는 정의다. 즉 기술의 정체성은 그것을 고안한 설계자부터 자금을 지원하는 주체, 규제 기관, 그리고 실제 사용자라는 인간의 특성에 종속된다는 분석이다.

교황은 이러한 맥락에서 AI 기술이 소수의 손에 장악되어서는 안 된다는 점을 강력히 경고했다. 그 구체적인 근거로 최근 미국-이스라엘의 이란 전쟁 중에 AI 기술이 실제로 사용되었음을 지적했다. 이는 기술의 비중립성이 실제 전쟁이라는 극단적인 사례를 통해 구체화된 결과다. 특정 소수가 기술의 설계와 운영권을 독점했을 때 어떤 결과가 초래되는지를 실제 사례를 통해 입증하며 규제의 필요성을 역설한 것으로 풀이된다.