AI가 생성한 가짜 뉴스 사이트가 지역 언론의 몰락을 다룬

AI가 쏟아내는 저품질 콘텐츠인 '슬롭(slop)'의 생성 속도는 이제 사람이 그 진위 여부를 교차 검증하는 속도를 완전히 추월했다. 매일 수천 건씩 쏟아지는 AI 생성 텍스트 사이에서 독자는 무엇이 사실인지 판단하기보다 그럴듯한 문체에 먼저 설득되곤 한다. 이러한 틈을 타 가짜 뉴스 사이트 'The Editorial'(AI 생성 뉴스 플랫폼)이 앨라배마주의 주간지 47곳이 AI로 대체되어 폐간됐다는 허위 기사를 유포했다.

해당 기사는 '1819 News'라는 우파 성향의 매체 체인이 농촌 지역의 주간지들을 대거 인수해 기존 직원을 해고하고 그 자리를 AI 생성 콘텐츠로 대체했다는 내용을 담았다. 하지만 사실 확인 결과 1819 News가 앨라배마 지역 신문사들을 인수해 운영했다는 기록은 어디에도 없었다. 기사에 등장하는 'Alabama Community News LLC'는 실재하지 않는 가공의 법인이었으며, 폐간되었다고 주장된 신문사들 또한 실존하지 않거나 여전히 정상적으로 운영 중인 것으로 확인됐다.

The Editorial은 앨라배마 사례 외에도 텍사스주의 언론 상황이나 특정 신문사의 폐간 등 미국 지역 언론의 위기를 다룬 허위 기사를 지속적으로 생산해 왔다. 사이트 내에서 지역 언론의 위기를 소재로 한 조작 기사는 하나의 유망한 하위 장르처럼 반복적으로 작성되는 양상을 보였다. 실제 존재하는 지역 사회의 취약점을 AI가 정교하게 가공해 허구의 서사를 구축한 셈이다.

확인해야 할 핵심 지점

47개라는 구체적인 숫자로 명시된 폐간 명단은 언뜻 정교한 통계처럼 보였다. 하지만 명단에서 폐간된 것으로 지목된 Shelby County Reporter의 편집장 노아 워덤(Noah Wortham)은 자신이 2022년부터 이곳에서 근무하고 있으며, 매체는 여전히 살아있고 인쇄물을 발행하며 성장 중이라고 밝혔다. 다른 지역 언론인들 또한 해당 기사가 허위임을 인지하고 이를 공유하며 조작 사실을 알렸다. AI가 생성한 허위 정보의 실체는 현장에서 활동하는 언론사 관계자들의 직접적인 부인을 통해 드러났다.

신뢰도를 높이기 위해 도메인 주소까지 치밀하게 설계했다. 가짜 기사를 게재한 theeditorial.news는 보스턴의 지역 기자인 하이디 레그(Heidi Legg)가 운영하는 실제 사이트 theeditorial.com의 명칭을 도용했다. 두 사이트는 서로 아무런 관련이 없지만, 유사한 이름을 사용하여 독자가 실제 언론사로 오인하게 만들었다. 도메인 확장자 하나만 바꾼 수법으로 공신력 있는 매체의 이름을 빌려 가짜 뉴스의 외형을 완성했다.

이제 AI 생성 콘텐츠를 가려내는 기준은 매끄러운 문체나 톤이 아니다. 실존하는 인물의 발언을 직접 확인하거나 도메인의 실제 소유주를 대조하는 사실 관계 교차 검증만이 유일한 판별법이 됐다. 텍스트의 완성도가 높아질수록 정보의 진위는 외부의 물리적 사실로만 증명 가능하다.

단순한 저품질 콘텐츠인 슬롭을 넘어 AI는 이제 정교한 기만 전술을 쓴다. The Editorial은 실존하는 지역 신문사 이름과 지명, 기관을 섞고 가공의 전문가 프로필까지 배치해 1,900자가 넘는 롱폼 기사를 만들어냈다. AI 특유의 문체를 지워낸 이 수법은 47개 신문사가 파산했다는 허위 사실을 사실처럼 믿게 만들었다.

이제 AI 생성 콘텐츠의 판별 기준은 문체가 아닌 사실 관계의 교차 검증으로 완전히 이동했다. 텍스트의 매끄러움이 아니라 외부의 물리적 사실로만 진위를 증명하는 습관이 유일한 방어책으로 남는다.