매일 수백만 개의 영상이 업로드되는 YouTube 플랫폼에서 특정인의 얼굴을 무단으로 합성한 딥페이크(AI로 만든 가짜 영상)가 무분별하게 유통되고 있다. 유명인의 얼굴을 도용해 사기 광고를 제작하거나 허위 사실을 유포하는 사례가 늘어나면서, 플랫폼 차원의 대응책 마련이 시급한 과제로 떠올랐다. 최근 YouTube는 이러한 문제를 해결하기 위해 AI 기반의 인물 유사성 탐지 기술을 연예계 전반으로 확대 적용한다고 발표했다.

연예계 대상 AI 탐지 기술 도입과 작동 방식

YouTube가 이번에 공개한 인물 유사성 탐지 기술은 기존의 저작권 보호 시스템인 콘텐츠 ID(저작권이 있는 자료를 자동으로 식별해 삭제하거나 수익을 배분하는 도구)와 유사한 메커니즘으로 작동한다. 이 기술은 업로드된 영상 속 인물의 얼굴을 스캔하여 등록된 유명인의 데이터와 일치하는지 실시간으로 판별한다. 이번 확대 조치로 연예 기획사, 매니지먼트사, 그리고 소속 연예인들은 자신의 얼굴이 무단으로 사용된 영상을 보다 쉽게 찾아낼 수 있게 되었다. CAA(미국 최대 연예 기획사), UTA(글로벌 연예 매니지먼트사), WME(종합 엔터테인먼트 에이전시), Untitled Management(연예인 관리 기업) 등 주요 업계 관계자들이 이번 도구의 개발 과정에 참여하여 피드백을 제공했다. 해당 기능을 사용하기 위해 연예인이 반드시 개인 YouTube 채널을 운영해야 하는 것은 아니다.

기존 저작권 시스템과의 차이와 대응 옵션

예전에는 저작권 침해 영상이 올라오면 권리자가 일일이 수동으로 신고해야 했으나, 이제는 AI가 자동으로 유사성을 감지하여 대응 속도를 획기적으로 높였다. 탐지된 영상에 대해 권리자는 세 가지 선택지를 가진다. 첫째, 개인정보 보호 정책 위반을 근거로 영상 삭제를 요청할 수 있다. 둘째, 저작권 침해를 이유로 삭제를 요구할 수 있다. 셋째, 아무런 조치를 취하지 않고 그대로 둘 수도 있다. 다만 YouTube는 모든 AI 합성 영상을 삭제하는 것은 아니라고 명시했다. 풍자나 패러디 목적의 콘텐츠는 플랫폼 규정에 따라 허용되기 때문이다. 이 기술은 작년 일부 크리에이터를 대상으로 한 파일럿 프로그램을 거쳐, 올해 봄 정치인과 언론인 등으로 범위를 넓혔고 이번에 연예계까지 확장되었다.

향후 기술 로드맵과 정책적 대응

개발자가 체감하는 기술적 변화는 시각적 탐지를 넘어 음성 영역으로 확장될 예정이다. YouTube는 향후 AI가 생성한 가짜 음성까지 탐지할 수 있도록 기능을 고도화할 계획이다. 또한 기술적 대응과 별개로 정책적 입법 활동도 병행하고 있다. YouTube는 미국 워싱턴 D.C.에서 논의 중인 NO FAKES Act(개인의 목소리와 외형을 무단으로 복제하는 AI 사용을 규제하는 법안)를 지지하며 플랫폼 외부의 법적 보호 장치 마련에도 힘쓰고 있다. 현재까지 이 도구를 통해 삭제된 딥페이크 영상의 정확한 수치는 공개되지 않았으나, 지난 3월 기준으로 삭제 건수는 여전히 매우 적은 수준이라고 밝혔다. AI 기술이 고도화될수록 플랫폼의 콘텐츠 관리 책임은 단순한 모니터링을 넘어, 개인의 정체성을 보호하는 기술적 방어 체계 구축으로 이동하고 있다.