러시아발 가짜 연구소 IBI와 ChatGPT 계정 일괄 차단

OpenAI가 이스라엘 소재 전문가 집단으로 위장해 친러시아 여론을 조성한 러시아발 ChatGPT 계정 클러스터를 일괄 차단했다. 이번 조치는 정체성을 숨긴 채 공공의 의견을 조작하거나 정치적 결과에 영향을 미치려는 은밀한 영향력 공작(covert influence operation, IO)을 적발한 결과다. OpenAI는 이러한 기만적 시도를 탐지하고 무력화하는 전용 도구를 운용해 계정 정지 조치를 취했다.

공작의 핵심 거점은 국제 버크 연구소(International Burke Institute, IBI)라는 가짜 전문가 커뮤니티였다. IBI는 2025년 2월에 웹사이트를 등록했으며, 소재지를 이스라엘로 설정해 서방 국가의 전문가 집단인 것처럼 위장했다. 웹사이트 내에는 러시아를 긍정적으로 묘사하는 주권 지수와 복제된 학술 저작물들을 배치해 방문자가 해당 기관을 실제 존재하는 권위 있는 연구소로 믿게 만들었다.

러시아 운영자들은 자국 내 모델 접속 제한을 우회하기 위해 VPN(가상 사설망)을 사용해 ChatGPT에 접속했다. OpenAI는 AI가 생성한 소셜 미디어 게시물을 조사하는 과정에서 가짜 웹사이트 운영과 연동된 광범위한 영향력 공작 체계를 확인했다. 이번 사례는 우크라이나 전쟁 시작 이후 무력화한 다른 러시아 관련 공작들에 비해 가짜 기관 설립과 신뢰성 확보 전략이 결합되어 구조가 더 정교해진 것이 특징이다.

'Svetofor' 오역과 러시아어 프롬프트가 남긴 흔적

독일의 사회민주당, 자유민주당, 녹색당이 상징색을 따서 명명한 '교통신호등 연합(Ampelkoalition)'이 IBI 웹사이트 기사에서는 'Svetofor coalition'으로 표기되었다. Svetofor(светофор)는 러시아어를 포함한 슬라브어권에서 교통신호등을 뜻하는 단어다. 영어와 독일어 사용자가 이 단어를 선택했을 가능성은 극히 낮으며, 이는 슬라브어 원문을 기계 번역기로 옮기는 과정에서 발생한 흔적으로 작성자가 러시아어권 사용자임을 보여주는 증거가 되었다.

운영자들은 ChatGPT를 활용해 IBI 웹사이트 기사를 홍보하는 게시물을 X, LinkedIn, Facebook, Substack, Telegram에 대량 생성했다. 일부 계정은 IBI의 이름과 로고를 사용해 공식 기관으로 위장했고, 일부는 일반 사용자처럼 행동하며 기사를 공유했다. 이들은 러시아어로 프롬프트를 입력해 영어 콘텐츠를 생성함으로써 발신지를 은폐하려 했으나, 결과물에 남은 기계 번역의 특성이 분석 대상이 되었다.

독일어 텔레그램 채널인 'Lahme Ente(절름발이 오리)'는 우크라이나와 EU, 독일 정부를 비판하고 러시아와의 관계 개선을 주장하는 게시물을 유포했다. 또한 독일, 미국, 프랑스, 폴란드, 튀르키예를 겨냥한 12개 텔레그램 채널의 로고를 생성해 배포했으며, 이들은 IBI 게시물을 상호 공유하는 구조를 보였다. 특히 미국 타겟 채널인 'American Observer'의 운영자는 AI에게 채널 활동 내용을 러시아어로 요약해 달라고 반복 요청하며 운영 현황을 관리했다.

36개 기사 중 34개 표절로 구축한 허위 신뢰성

2025년 9월부터 2026년 5월까지 발행된 기사 36개를 분석한 결과 34개가 다른 사이트에서 복제된 것으로 확인됐다. IBI는 프랜시스 후쿠야마나 노엄 촘스키 같은 세계적 석학들이 포함된 전문가 집단이라고 주장했으나, 실제로는 외부 콘텐츠를 무단으로 가져와 자신의 성과인 것처럼 포장했다. 이는 AI가 만든 가짜 텍스트만으로는 신뢰를 얻기 어렵다는 판단하에 실제 학술 데이터를 섞어 쓴 전략이다.

저자 정보를 조작해 학술적 권위를 흉내 낸 사례도 발견됐다. 캠브리지 대학 출판부의 논문을 노팅엄 대학 교수가 쓴 글로 기재하거나, 이주 정책 연구소(MPI)의 논문을 게시하며 실제 저자가 아닌 호주 식품 과학 교수의 이름과 사진을 도용했다. 해당 인물은 2017년부터 식품 과학을 전공한 교수였으나, IBI 웹사이트에서는 이주 정책 전문가로 둔갑해 독자의 출처 검증을 어렵게 만들었다.

이렇게 구축한 허위 신뢰성은 '주권 지수(sovereignty index)'라는 지표를 홍보하는 기반이 됐다. 주권 지수는 국가의 독립성을 측정한다는 명목으로 러시아를 찬양하고 서방 국가를 비하하는 논리를 전파하는 도구로 활용됐다. 가짜 연구소가 만든 지표에 표절된 학술 논문들을 근거로 배치해, 마치 객관적인 연구 결과인 것처럼 꾸며 정치적 메시지를 정당화하려 했다.

하이브리드 정보 조작의 진화와 새로운 탐지 기준

이번 공작은 AI 생성물과 실제 복제물을 혼재시킨 하이브리드 형태의 정보 조작 방식을 사용했다. 운영자들은 ChatGPT에 러시아인임을 알 수 있는 언어적 단서를 숨기라는 구체적인 지침을 프롬프트에 포함했다. 단순한 콘텐츠 양산은 패턴 분석으로 걸러지지만, 실제 존재하는 논문이나 보고서의 저자 이름만 바꾸는 학술적 위장은 탐지 난이도가 훨씬 높다.

신뢰할 수 있는 기관의 글을 일부 섞으면 AI 생성물 특유의 부자연스러움이 보완되어, 독자가 나머지 AI 생성 콘텐츠까지 사실로 믿게 만드는 효과가 있다. 특히 프롬프트를 통해 언어적 특성을 지우려 한 시도는 단순한 오역이나 문체 분석만으로는 정체를 밝히기 어려운 수준으로 진화했음을 보여준다.

따라서 생성형 AI가 만든 거짓 정보와 실제 데이터가 엮인 콘텐츠는 기존의 텍스트 통계 분석이나 스팸 필터링 기준을 무력화한다. 이제는 텍스트의 생성 여부를 판별하는 것보다, 인용된 출처와 저자의 실제 일치 여부를 대조하고 정보의 연결 고리를 추적하는 검증 절차가 핵심 탐지 기준이 된다.

OpenAI는 앞으로도 AI 모델을 이용한 기만적 영향력 공작을 지속적으로 탐지하고 무력화할 방침이다.