월스트리트저널이 주최한 퓨처 오브 에브리씽 컨퍼런스 무대 위에서 배리 딜러 IAC 회장이 마이크를 잡았다. 폭스 브로드캐스팅(미국 지상파 방송사) 공동 창업자이자 익스피디아 그룹(온라인 여행 예약 플랫폼) 회장인 그는 최근 인공지능 업계의 리더십 논란에 대해 입을 열었다. 특히 OpenAI의 샘 올트먼을 둘러싼 조작과 기만 의혹에 대해 개인적인 신뢰를 표하며 논란을 일축했다. 하지만 그는 곧바로 대화의 초점을 개인의 도덕성에서 기술의 본질적인 불확실성으로 옮겼다.

AGI 개발의 불확실성과 통제권의 상실

배리 딜러는 인공지능이 인간의 모든 업무 능력을 뛰어넘는 범용 인공지능(AGI, 인간 수준의 지능을 갖춘 인공지능) 단계에 진입하고 있다고 진단했다. 그는 개발자들이 스스로 인공지능을 만들면서도 그 결과물을 보며 경이로움과 동시에 두려움을 느끼고 있다고 관찰했다. 이는 단순히 특정 기업의 경영진이 신뢰할 만한 인물인가의 문제를 넘어선다. 개발자들조차 자신이 만든 기술이 어떤 결과를 초래할지 예측하지 못하는 상황이 벌어지고 있기 때문이다. 그는 기술이 인간의 통제 범위를 벗어나기 시작했다는 점을 가장 큰 위협으로 꼽았다.

신뢰의 무용론과 가드레일의 필요성

예전에는 기술의 안전성을 담보하기 위해 리더의 윤리 의식과 기업의 거버넌스(의사결정 체계)를 강조했다. 이제는 리더가 아무리 선한 의도를 가졌더라도 기술 자체가 가진 예측 불가능성이 그 모든 노력을 무력화할 수 있다는 지적이 나온다. 배리 딜러는 인공지능이 스스로 가드레일(안전장치)을 설정하지 못한다면, 결국 AGI라는 또 다른 힘이 스스로를 통제하는 상황이 올 것이라고 경고했다. 일단 그 지점에 도달하면 인간이 다시 되돌릴 방법은 존재하지 않는다. 그는 막대한 자본이 투입되는 인공지능 시장의 수익성보다, 기술이 가져올 통제 불가능한 변화에 집중해야 한다고 강조했다.

결국 인공지능의 미래는 리더의 진정성이라는 인간적 잣대가 아니라, 기술이 스스로를 통제하기 전에 인간이 마련해야 할 강제적 안전망의 유무에 달려 있다.