SNS에서 특정 주제의 게시물을 찾을 때 해시태그를 검색하는 것은 누구나 하는 일상적인 행동이다. FBI가 지난주 성인 사이트에서 이 단순한 검색 방식을 활용해 AI 딥페이크 영상을 불법 유포한 남성 2명을 체포했다.

수사관들은 성인 사이트에 접속해 #AI, #Deepfakes 같은 해시태그나 'AI_tits', 'Ass_AI'와 같은 영상 제목을 클릭하는 것만으로 피의자들을 식별했다. 복잡한 디지털 포렌식이나 고도의 추적 기술 없이, 유포자가 스스로 남긴 흔적을 따라간 결과다. 이번 검거는 비동의 성적 딥페이크 유포를 처벌하는 '테이크 잇 다운 법(Take It Down Act, TIDA)'이 적용된 초기 사례라는 점에서 주목된다.

#AI 태그와 TIDA 법안이 만든 빠른 검거 경로

딥페이크 생성 도구는 무료에 가깝고 익명성은 완벽해 보인다. 하지만 유포자가 얻는 조회수 수익과 명성은 이제 실시간 검거라는 비용으로 돌아온다. FBI(미 연방수사국)는 지난주 성인 사이트를 직접 방문해 특정 키워드를 추적하는 방식으로 남성 2명을 체포했다. 수사관들이 사용한 방법은 단순했다. #AI와 #Deepfakes 같은 해시태그를 클릭하고 'AI_tits'나 'Ass_AI' 같은 영상 제목을 검색해 유포자를 특정했다. 고도의 해킹 기술이나 복잡한 디지털 포렌식 없이도, 유포자가 스스로 남긴 태그와 제목이 결정적인 단서가 됐다. 단순한 메타데이터 추적이 수사 기간을 획기적으로 단축하며 범인을 찾아낸 결과다.

체포된 피의자 중 한 명인 20세 아르투로 에르난데스는 총 113개의 앨범을 온라인에 게시했다. 해당 콘텐츠들은 누적 조회수 약 100만 회를 기록하며 빠르게 확산했다. 피해 여성은 약 50명으로 집계됐다. 피해자 명단에는 정치인과 배우, 음악가 같은 공인이 포함되어 사회적 파장이 컸다. 하지만 더 심각한 점은 텍사스주 고등학교 동창이나 인스타그램 친구처럼 주변의 일반인 여성들까지 정교하게 표적이 됐다는 사실이다. AI 도구가 개인의 친분 관계와 일상을 범죄의 재료로 바꾸는 과정이 매우 구체적으로 실행됐다.

이번 검거의 핵심 동력은 테이크 잇 다운 법(Take It Down Act, TIDA)이라는 신설 법안이다. TIDA는 당사자의 동의 없이 제작된 성적 딥페이크 영상을 유포하거나 판매하는 행위를 엄격하게 금지하고 처벌한다. 과거에는 유포 경로를 파악하더라도 적용할 법률이 모호해 수사 단계에서 시간이 지체되는 경우가 많았다. 하지만 TIDA의 도입으로 수사 기관은 유포자를 특정하는 즉시 구속할 수 있는 명확한 법적 근거를 갖게 됐다. 법안이 마련되자 FBI는 추적과 체포 사이의 간극을 없애고 빠른 검거 경로를 구축했다.

유포자들은 익명 네트워크 뒤에 숨어 수익을 올릴 수 있다고 믿었으나, TIDA는 그 믿음을 비용으로 전환했다. 해시태그 하나가 수사관의 검색 결과에 노출되는 순간, 디지털 발자국은 곧바로 체포 영장으로 이어진다. 이제 딥페이크 유포는 기술적 은폐의 문제가 아니라, 법적 집행 속도에 노출된 위험한 도박이 됐다. 수사 기관은 복잡한 추적 기법 대신 법안의 실행력과 단순 키워드 필터링을 결합해 유포자를 압박한다.

113개 앨범과 100만 회 조회수, 무차별적 피해 규모

컴퓨터 화면 속에서 단순한 검색어 입력만으로 범죄의 실체가 드러나는 시대가 되었다. 20세 남성 아르투로 에르난데스(Arturo Hernandez)는 온라인 포르노 사이트에 인공지능으로 생성한 성적 이미지와 영상을 대량으로 게시했다. 그는 총 113개의 앨범을 업로드했으며, 이 콘텐츠들은 합산 조회수 약 100만 회를 기록했다. 기술적 진입 장벽이 낮아짐에 따라 개인이 생성할 수 있는 유해 콘텐츠의 규모가 기업형 범죄 수준으로 확대된 결과다.

피해 대상은 공인과 일반인을 가리지 않았다. 에르난데스가 제작한 딥페이크 콘텐츠에는 정치인, 배우, 음악가 등 대중에게 알려진 인물뿐만 아니라, 텍사스 소재 고등학교 동창 및 인스타그램 지인 등 평범한 일상을 살아가던 여성들도 포함되었다. 특정 타겟을 선정하는 방식이 아닌, 자신의 주변 관계망까지 범죄의 도구로 활용했다는 점에서 피해의 범위는 예측 불가능한 수준으로 넓어졌다.

이러한 범죄는 생성형 AI 도구의 접근성이 높아지면서 발생한 전형적인 사례다. 과거에는 특정 인물의 성적 이미지를 합성하기 위해 고도의 편집 기술과 시간이 필요했으나, 현재는 프롬프트 입력만으로 수천 개의 이미지를 단시간에 생성할 수 있다. 에르난데스는 이러한 기술적 편의성을 악용하여 피해자들의 얼굴 데이터를 무단으로 학습시키거나 기존 이미지를 변조하는 방식을 택했다. 개발자 관점에서 볼 때, 이는 모델의 안전 가드레일이 우회되거나 오픈 소스 모델이 악의적인 목적으로 재배포될 때 발생하는 가장 직접적인 사회적 비용이다.

결국 기술의 발전이 개인의 제어권을 넘어 타인의 인격권을 침해하는 속도가 법적 규제의 속도를 앞지르고 있다. 에르난데스의 사례는 AI 생성 콘텐츠가 단순한 디지털 유희를 넘어 실질적인 범죄 수단으로 고착화되었음을 보여준다. 수사 기관은 이제 해시태그와 같은 단순한 메타데이터 추적만으로도 방대한 양의 불법 콘텐츠를 유통한 피의자를 특정하고 있다. 이는 데이터의 생성과 유통 과정에서 발생하는 디지털 발자국이 범죄를 입증하는 핵심 증거로 기능하고 있음을 증명한다.

딥페이크 유포 대응을 위한 기술적·법적 판단 프레임워크

FBI가 해시태그 검색만으로 유포자를 검거한 사례는 플랫폼의 검색 최적화(SEO) 전략이 범죄 추적의 핵심 경로로 활용될 수 있음을 보여준다. 개발자는 자사 서비스 내 콘텐츠 업로드 시점에 메타데이터와 태그를 강제로 정규화하고, 특정 키워드 조합이 생성될 때 이를 즉각적인 모니터링 트리거로 설정해야 한다. 유포자는 조회수를 높이기 위해 검색 친화적인 태그를 스스로 부착하므로, 이 태그를 역이용하는 필터링 로직은 별도의 복잡한 포렌식 없이도 범죄 데이터를 즉시 격리하는 효율적인 방어선이 된다.

TIDA 법안의 시행은 불법 콘텐츠 삭제 요청과 수사 협조의 법적 속도를 이전보다 획기적으로 앞당겼다. 서비스 운영자는 유포자 식별 시 법적 근거에 기반한 즉각적인 계정 차단과 데이터 보존 정책을 수립해야 한다. 법적 처벌의 확실성이 높아진 환경에서는 수사 기관의 요청이 들어오기 전, 내부 운영 정책상 불법 콘텐츠를 발견하는 즉시 수사 기관과 공유할 수 있는 자동화된 신고 채널을 구축하는 것이 기업의 법적 책임을 최소화하는 유일한 방법이다.

개인과 공인을 가리지 않는 딥페이크 피해 사례는 모델의 안전 가드레일이 더 이상 특정 유명인 보호에만 머물러서는 안 된다는 점을 시사한다. 개발자는 오픈 소스 모델을 서비스에 통합할 때 일반인 얼굴 데이터에 대한 무단 학습을 방지하는 입력값 필터링을 강화해야 한다. 범죄자가 주변 지인의 사진을 범죄 재료로 삼는 상황에서, 모델은 특정 인물의 얼굴 특징점을 감지하면 즉시 생성을 중단하는 로컬 수준의 차단 기제를 갖춰야 한다. 결국 딥페이크 대응은 기술적 은폐를 뚫는 수사력과, 불법 태그를 즉각적으로 범죄 증거로 전환하는 시스템 설계의 결합이다.