확인된 사실: 9일간 56만 단어의 '학술적' 물량 공세

9일이라는 짧은 기간 동안 124건의 보고서, 총 56만 단어 이상의 콘텐츠가 웹사이트 하나에 쏟아졌다. 8월 6일부터 14일 사이에 벌어진 일로, 특히 12일과 13일 이틀 동안에만 73건의 보고서와 약 35만 단어가 게시됐다. 모든 보고서의 제목은 "반시오니즘은 반유대주의인가?"처럼 사용자가 챗봇에 입력할 법한 질문 형태로 구성됐다.

한노버 공공정책 연구소(Hanover Institute for Public Policy)라는 이름으로 운영된 이 사이트는 실제로는 법적 실체가 없는 가짜 씽크탱크다. 물리적 주소나 명시된 직원, 작성자 이름이 전혀 없지만, 겉모습은 세계은행(World Bank)이나 UN 기구의 자료를 인용하며 매우 학술적인 형식을 갖췄다. 가디언(Guardian)의 분석에 따르면, 이들은 인권 단체가 제노사이드나 아파르트헤이트를 언급한 보고서에 대해 "어떤 법원도 판결을 내리지 않았다"는 식의 프레임을 반복적으로 삽입해 비판을 무력화하려 했다.

자금 흐름은 이스라엘 정부의 광고 대행사인 라팜(LaPam)에서 시작해 유럽의 하바스 미디어(Havas Media)를 거쳐 미국의 피로(Piro Inc)와 클락 타워 X(Clock Tower X) 같은 하청 업체로 이어졌다. 피로는 미국 법무부의 외국대리인등록법(Fara)에 따라 이 사이트를 이스라엘 정부를 위한 홍보물로 신고했다. 피로가 체결한 계약 규모는 100만 달러 수준이지만, 하바스 미디어가 미국 업체들에 지급한 금액은 수천만 달러에 달하는 것으로 확인됐다.

시장 흐름: SEO를 넘어 GEO(생성형 엔진 최적화)의 시대로

이번 작전의 핵심은 단순한 웹 게시가 아니라 '생성형 엔진 최적화(Generative Engine Optimization, GEO)'라는 새로운 전략에 있다. 이들은 B2B 팀이 챗GPT, 퍼플렉시티(Perplexity), 클로드(Claude), 제미나이(Gemini) 등에서 인용되도록 돕는 AI 네이티브 콘텐츠 플랫폼 'Res'를 활용했다. 사이트 내부에서는 AI 시스템에 사이트 내용을 알려주는 'llms.txt' 파일이 발견됐으며, 이는 머신 리더(Machine Reader)가 콘텐츠를 더 쉽게 긁어가도록 설계된 장치다.

기존의 검색 엔진 최적화(SEO)가 검색 결과 상단에 링크를 노출해 클릭을 유도하는 방식이었다면, GEO는 AI 모델이 답변을 생성할 때 특정 관점의 정보를 '사실'로 채택하게 만드는 것이 목적이다. 피로(Piro)가 광고하는 'AI 스토리 최적화' 서비스가 바로 LLM이 신뢰도를 평가하는 방식에 맞춰 콘텐츠를 설계하는 작업이다. 즉, 사용자가 링크를 클릭해 사이트에 방문하게 만드는 것이 아니라, AI의 답변 속에 특정 내러티브를 심는 것이 목표다.

더 위험한 경로는 실시간 검색이 아닌 모델의 훈련 데이터 저장소에 침투하는 것이다. 상업용 AI 모델의 기초 데이터가 되는 커먼 크롤(Common Crawl) 같은 저장소에 특정 콘텐츠가 대량으로 포함되면, AI는 이를 학습 단계에서 내재화한다. 이렇게 되면 AI는 답변을 내놓을 때 출처를 밝히지 않고도 해당 내러티브를 정답처럼 출력하게 되며, 사용자는 팩트체크를 할 근거 자체를 찾을 수 없게 된다.

실무자 관점: 'LLM 그루밍'과 데이터 오염의 경고

AI 실무자와 기업이 주목해야 할 지점은 이제 LLM의 답변이 단순히 모델의 성능이나 정렬(Alignment)의 결과가 아니라, 의도적으로 설계된 '데이터 오염'의 결과일 수 있다는 점이다. 이를 'LLM 그루밍' 또는 '포이즈닝(Poisoning)'이라 부를 수 있다. 특정 세력이 대량의 정교한 가짜 학술 데이터를 배포하고 이를 훈련 데이터셋에 편입시키면, 모델의 가치 판단 기준 자체가 왜곡될 수 있다.

특히 챗봇이 출처를 명시하지 않고 답변을 생성하는 경우, 그 기반이 된 데이터가 커먼 크롤 같은 공개 저장소에서 어떻게 오염되었는지 추적하는 것은 현재 기술로 매우 어렵다. 이번 사례에서 챗GPT는 한노버 연구소의 자금 출처 논란을 함께 언급하며 경고 메시지를 띄웠지만, 이는 이미 알려진 논란이 반영된 결과일 뿐이다. 아직 알려지지 않은 정교한 GEO 캠페인이 진행 중이라면 모델은 이를 무비판적으로 수용할 가능성이 크다.

결국 AI 도입을 검토하는 기업이나 개발자는 모델이 내놓는 '중립적인' 답변의 근거가 어디에 있는지, 그리고 그 데이터가 생성된 경로가 신뢰할 만한지 검증하는 프로세스를 갖춰야 한다. 특정 주제에 대해 AI가 지나치게 일관된 프레임을 제시한다면, 그것이 모델의 추론 결과인지 아니면 의도적으로 설계된 GEO의 결과인지 의심해 보는 관찰 신호가 필요하다.