facts

하버드대 역사학자이자 뉴요커(New Yorker) 필자인 질 레포어(Jill Lepore) 교수가 출간 예정인 저서 '인공 국가의 흥망성쇠(The Rise and Fall of the Artificial State)'를 통해 빅테크 기업들이 민주 정부의 기능을 빠르게 대체하고 있다고 분석했다. 레포어 교수는 이를 '알고리즘과 기업, 기계에 의한 통치'라는 형태의 전제정치와 신비주의로의 회귀라고 정의했다.

구체적인 징후는 기업들이 국가의 상징적·실질적 통치 기구를 모방하는 모습에서 나타난다. 2016년 페이스북 뉴스가 비판에 대응해 자체 '최고법원'을 설립한 사례가 대표적이다. 최근에는 앤스로픽(Anthropic)이 도덕 철학자를 고용해 모델의 '헌법'을 작성하게 했으며, 오픈AI의 샘 올트먼(Sam Altman)은 팟캐스트에서 'AI 대통령'이라는 아이디어를 긍정적으로 언급하기도 했다.

이러한 흐름의 기점으로는 1984년 애플의 매킨토시 광고가 꼽힌다. 당시 애플은 메인프레임 컴퓨터를 전체주의적 국가로 묘사하며 개인용 컴퓨터가 개인의 해방을 가져올 것이라는 메시지를 던졌다. 하지만 레포어 교수는 당시의 마케팅적 수사가 현재에 이르러 일부 테크 리더들에게 '기계에 의한 통치'라는 망상적 판타지로 변질되었다고 지적했다.

market-flow

민간 기업이 국가의 기능을 수행하는 현상은 초기에는 효율성과 속도, 비용 절감이라는 실용적 목적에서 시작됐다. 정부 운영에 신기술을 도입하는 과정에서 의도치 않게 발생한 점진적 변화였다는 분석이다. 그러나 최근 20~25년 사이 이러한 흐름은 국가의 역할을 찬탈하려는 의도적이고 계획적인 결정으로 바뀌었다.

정책적 배경에는 1990년대 리버테리언(Libertarian, 자유지상주의자) 성향의 미래학자들이 인터넷 혁명을 통해 국가라는 개념 자체를 없애려 했던 흐름이 있다. 실제로 1996년 통신법(Telecommunications Act)은 당시의 특정한 정치적 상황과 뉴트 깅리치(Newt Gingrich)의 '미국과의 계약' 등에 깊은 영향을 받았으며, 이는 현재의 인터넷 구조를 형성하는 결정적 계기가 됐다.

현재의 경쟁 구도는 단순한 제품 성능 경쟁을 넘어 '거버넌스 권한'의 획득으로 확장되고 있다. 테크 기업의 리더들이 국가의 외형과 기능을 차용하는 것은, 이들이 더 이상 단순한 도구 제공자가 아니라 사회적 합의와 법적 판단을 내리는 주체로 자리 잡으려 한다는 신호다. 이는 시장 참여자들이 기술적 효율성을 이유로 공공의 의사결정권을 기업에 양도하는 채택 흐름이 가속화되고 있음을 의미한다.

reader-impact

AI 실무자와 기업 결정권자들은 기술 도입의 기준을 '효율성'에서 '정당성'으로 확장해 관찰해야 한다. 특히 AI를 활용해 내부 규정이나 윤리 가이드라인, 혹은 의사결정 자동화 시스템을 구축할 때, 이것이 단순한 운영 효율화를 넘어 조직 내의 민주적 합의나 기존의 거버넌스 체계를 대체하고 있지는 않은지 점검할 필요가 있다.

관찰해야 할 핵심 신호는 기업이 제시하는 'AI 헌법'이나 '자체 규제 기구'의 실질적 권한 범위다. 앤스로픽의 사례처럼 모델에 도덕적 헌법을 부여하는 행위가 실제 사용자나 사회의 가치 판단을 대체하는 기제로 작동하는지 확인해야 한다. 기술이 '쿨한 도구'를 넘어 '통치 수단'으로 기능하기 시작할 때, 그 결정 과정에 사용자의 동의나 민주적 절차가 포함되어 있는지가 향후 규제 리스크의 핵심이 될 가능성이 크다.

결국 AI 도입의 성패는 성능 수치가 아니라, 그 기술이 사회적·정치적 합의 구조 속에서 어떤 위치를 차지하느냐에 따라 결정된다. 기업이 국가의 기능을 모방하며 권한을 확장하는 흐름 속에서, 실무자들은 기술적 구현 가능성과 별개로 그 결정이 가져올 거버넌스의 공백을 인지하고 대응 전략을 세워야 한다.