발표에서 확인된 핵심 사실

지난 9개월 동안 Meta는 AI로 생성된 아동 성착취물(CSAM)을 포함한 유료 광고 수십 개를 미국, 영국 및 10개 이상의 유럽 국가 사용자들에게 송출했다. 일부 광고는 수천 개 계정에 도달했으며, 이 광고들은 Meta의 자동화된 광고 검토 시스템을 통과해 게재됐다.

연구자들이 공유한 광고 세부 정보에 따르면, 이 광고들은 명시적인 AI 생성 아동 성착취물과 성적으로 암시적인 문구가 포함된 미성년자 이미지를 담고 있었다. 한 비디오 광고는 썸네일에 아이가 앉아 있는 이미지를 사용했는데, 클릭하면 성인의 성행위 영상이 재생된 후 썸네일 속 아이의 얼굴이 해당 성행위 장면에 합성되는 방식으로 작동했다.

Meta의 최신 AI 탐지 기술이 도입된 이후에도 일부 광고는 필터를 우회해 게시됐다. 이는 자동화된 검토 시스템이 AI로 정교하게 조작된 불법 콘텐츠를 식별하는 데 여전히 한계를 보인다는 점을 드러낸다. Meta 광고 라이브러리는 미국 및 전체 국가의 상세 성과 데이터를 제공하지 않아 정확한 전체 도달 범위는 확인되지 않았다.

광고 라이브러리에서 적발된 위반 광고와 누디파이 앱 연결

Tech Transparency Project(TTP, 기술 투명성 프로젝트) 연구원들이 Facebook, Instagram, Messenger, Threads 플랫폼에서 실행된 광고들을 조사한 결과, 50개가 넘는 이미지와 비디오 광고가 Meta의 광고 라이브러리에서 적발됐다. 이들은 라이브러리 내에서 학대성 콘텐츠를 포함한 광고들을 발견했으며, 일부 광고는 AI를 이용해 옷을 벗긴 것처럼 만드는 누디파이(Nudify) 또는 언드레싱(Undressing) 앱으로 연결되는 링크를 포함하고 있었다. 기업이 플랫폼에 표시된 광고를 카탈로그화하여 기록하는 투명성 도구인 광고 라이브러리에서조차 규정 위반 콘텐츠가 걸러지지 않고 노출된 셈이다.

언론 문의가 전달된 이후에야 Meta는 해당 광고들을 라이브러리에서 삭제했다. 사측은 성착취물 근절을 위해 노력하고 있다는 입장을 공식적으로 밝혔다. 특히 문제가 된 광고 상당수가 위반 광고를 더 정교하게 탐지하고 차단하기 위해 최근 출시한 새로운 AI 기술이 도입되기 이전에 게시되었다고 설명했다. 광고 업로드 시점에서 위반 여부를 판단하는 시스템을 지속적으로 개선하고 있다는 주장이지만, 신규 탐지 기술 도입 전의 공백이 실제 광고 집행과 노출로 이어졌음을 보여준다.

자동 승인 절차가 초래한 노출 규모와 시스템적 허점

자동화 도구의 승인 절차를 거쳐 유럽 내 2,563개 계정에 도달한 광고가 확인됐다. 프랑스, 독일, 이탈리아, 영국을 비롯해 아일랜드, 네덜란드, 스페인, 스웨덴 등 유럽 여러 국가의 계정이 포함된 수치다. 상당수 광고는 소수의 계정에만 도달했지만, 최소 한 건의 광고가 수천 개의 계정에 노출된 것으로 나타났다. Meta 광고 라이브러리 데이터베이스에는 미국 및 전체 국가의 성과 세부 정보가 포함되지 않았기에 실제 전체 도달 범위는 확인된 수치보다 더 높을 가능성이 크다.

모든 광고는 게시 전 자동화된 도구를 사용해 정책 위반 여부를 확인하는 검토 과정을 거친다는 것이 Meta의 운영 정책이다. TTP는 해당 광고들이 제3자가 게시한 단순 콘텐츠가 아니라 Meta가 직접 검토하고 승인해 실행을 허용한 광고라는 점을 분명히 했다. 회사가 광고비를 수집하는 동안 시스템의 간섭 없이 광고 집행이 승인되고 유지된 셈이다.

자동화된 검토 도구가 동일한 위반 콘텐츠를 식별하고도 다시 승인하는 재게시 허용 사례와 썸네일-본문 간의 불일치를 이용한 우회 기법을 자동 검토 시스템의 핵심 검증 기준으로 설정해야 한다.

Meta의 광고 검토 시스템은 AI 생성 CSAM이 광고 라이브러리라는 공개된 투명성 도구 내에서조차 장기간 노출되도록 방치했으며, 이는 자동화된 필터링만으로 불법 콘텐츠의 유통을 차단하는 데 근본적인 한계가 있음을 보여준다.