AI 챗봇의 취약점을 악용한 수천 건의 Instagram 계정

비밀번호를 잊어 계정 복구를 시도하던 사용자가 갑자기 접속 권한을 잃는 상황이 벌어졌다. Meta는 AI 챗봇의 취약점을 이용해 최소 20,225명의 인스타그램(Instagram) 계정이 탈취된 사실을 확인했다. 404 Media와 가 처음 보고한 이번 해킹 캠페인은 수개월간 지속됐다.

AI 기반 계정 복구 시스템의 코드 경로 버그가 원인이다. 시스템이 비밀번호 재설정을 요청한 이메일 주소가 해당 계정의 등록 정보와 일치하는지 검증하지 않았다. 공격자가 제공한 이메일로 재설정 링크가 발송되며 권한 없는 사용자가 계정에 접근했다.

2단계 인증(2FA, Two-Factor Authentication)을 설정하지 않은 계정이 주요 표적이 됐다. 공격자는 챗봇의 결함을 악용해 'hey'나 'jobo' 같은 짧은 핸들(사용자 이름) 계정과 오바마 전 대통령의 백악관 계정을 장악했다. AI 시스템에 핵심 워크플로우 권한을 부여할 때 발생하는 위험을 보여준다.

신원 확인 체계의 허점도 발견된다. 얼굴 움직임을 확인하는 AI 기반 KYC(Know Your Customer, 고객 신원 확인) 방식은 딥페이크 영상 생성 모델로 우회될 가능성이 높다. 엔비디아(Nvidia)는 학습용 GPU 시대가 끝나고 에이전틱 툴 호출(agentic tool calls)을 실행하는 CPU 중심의 에이전트 워크로드가 확산될 것으로 전망한다.

기존 방식과 달라진 지점

비밀번호를 철저히 관리하면 계정을 지킬 수 있을까? 메타(Meta)의 AI 어시스턴트를 설득해 타인의 비밀번호를 받아내는 새로운 공격 방식이 확인됐다. 기존의 피싱 이메일이나 멀웨어 설치, 다크웹을 통한 계정 구매와는 완전히 다른 경로다. AI가 사용자의 요청을 처리하는 논리적 허점을 이용한 새로운 위협 벡터다.

VPN(가상 사설망)으로 위치를 위장하는 것이 시작이다. 공격자는 타겟 사용자의 지역으로 위치를 설정한 뒤 계정 해킹 신고 절차를 통해 AI 어시스턴트에 접속했다. 이후 전화기를 분실했다는 등의 거짓말로 AI를 설득해 공격자가 새로 만든 이메일로 인증 코드를 전송받아 비밀번호를 재설정했다. AI의 도움을 주려는 특성이 보안 취약점으로 작용했다.

탈취된 계정에서는 연락처와 생년월일, 프로필 정보가 그대로 노출됐다. 해커는 인스타그램(Instagram) 및 연결된 모든 계정의 제어권을 확보해 게시물과 다이렉트 메시지(DM), 계정 활동 내역까지 접근했다. 단순한 계정 탈취를 넘어 연결된 서비스 전체의 개인 정보가 유출된 결과다.

메타는 해당 AI 챗봇을 비활성화하고 계정 재설정을 가능하게 한 코드 경로를 제거했다. 다른 플랫폼 내 챗봇들도 점검하며 피해자에게 보안 채널을 통한 재인증과 비밀번호 재설정을 안내 중이다. 사람이 운영하던 핵심 프로덕션 시스템의 워크플로우를 AI에게 부여할 때는 매우 신중한 설계와 검증이 필요하다. 문제 해결 과정을 지나치게 단순화하는 설계가 치명적인 보안 취약점으로 이어진다.

기술이 실제로 작동하는 방식

비밀번호 재설정 코드가 본인 확인 절차 없이 외부로 전달되는 경로가 확인됐다. 공격자가 AI 챗봇을 설득해 2단계 인증(2FA, Two-Factor Authentication)을 우회하고 고가치 계정을 탈취하는 방식이다. 이는 메타의 백엔드 시스템을 직접 침해한 것이 아니라 AI의 로직 레이어에서 발생한 문제다. 보안 시스템은 설계대로 작동했으나 도움을 주려는 AI의 특성을 이용해 권한 없는 사용자에게 복구 이메일을 보내도록 유도한 사회공학적 기법이 통했다.

강력한 인증 체크포인트와 요청 횟수 제한(Rate Limiting)의 부재가 취약점으로 작용했다. AI 어시스턴트는 비밀번호 재설정 이메일을 트리거할 수 있는 권한이 있었으나 이를 검증할 단계가 없었다. 공격자는 AI에게 반복적으로 요청을 보내며 권한을 얻어낼 때까지 설득을 시도했다. 제한 없는 핑(Ping) 요청이 가능했기에 AI를 속이는 시도가 성공할 수 있었다.

시스템 전반에 광범위한 권한을 가진 '갓 모드'의 AI 에이전트는 새로운 공격 벡터가 된다. 침투 테스트를 통해 봇이 권한을 남용해 시스템에 접근할 수 있음이 드러났다. 유료 구독자용 Claude Co-work(클로드 코워크, 노트북 내 파일 및 웹 작업 어시스턴트) 역시 파일 재구성, 폴더 검토, 데이터 수집을 통한 PDF 생성 및 이미지 편집 등 강력한 제어권을 가진다. Chrome을 통한 웹 상호작용과 최신 정보 검색을 위한 Web Search, 그리고 많은 시간을 들여 특정 도메인에 대한 심층 보고서를 생성하는 Research 기능이 더해져 에이전트의 시스템 접근 범위는 더욱 넓어진다.

용도에 따라 Claude Opus, Sonnet, Haiku

복잡한 알고리즘을 설계하는 엔지니어의 정밀함과 단순한 반복 업무를 처리하는 자동화 도구의 효율성은 각기 다른 모델의 역량을 요구한다. Anthropic은 논리적 추론과 코딩 등 심층 작업에 최적화된 Claude Opus(v4.7)를 최상위 모델로 배치하고, 일반적인 글쓰기에는 Claude Sonnet을, 단순 작업에는 Claude Haiku를 배치하여 용도별 선택지를 제공한다. 각 모델은 작업의 난이도와 필요 연산량에 따라 구분되어 리소스 활용의 최적화를 지원한다.

Claude Code를 활용하면 사용자는 VS Code 확장 프로그램이나 CLI(명령줄 인터페이스)를 통해 애플리케이션을 직접 구축할 수 있다. 이 도구는 개발 환경 내에서 파일을 생성하고 코드를 작성하며 풀스택 웹사이트나 라이브 대시보드 제작을 돕는다. 또한 Claude Design은 인스타그램 캐러셀, 모바일 앱 UI, 로고 등 시각적 인터페이스를 수 분 내에 생성하는 디자인 플랫폼으로 활용된다.

메타(Meta)는 이와 같은 AI 모델 사용 확대와 구독 수익을 위해 업무용 웨어러블 기기인 AI 펜던트 테스트를 계획 중이다. 이는 작년 인수한 AI 핀 스타트업 Limitless의 기술을 결합하여 구글과 OpenAI의 하드웨어 경쟁에 대응하려는 전략이다. 인스타그램 계정 탈취 사건의 경우, 메타 AI의 로직 레이어에서 속도 제한과 인증 강제 조치가 미비했던 탓에 사용자 이름만으로 복구 프로세스가 시작되는 취약점이 발생했다. 이로 인해 백악관 공식 계정을 포함해 100만 달러 이상의 가치를 지닌 고가치 핸들이 다수 탈취되는 결과를 초래했다.

한국 AI 현장에서 볼 지점

무료 서비스의 편의성 뒤에는 보안 비용이라는 숨은 대가가 따른다. 공격자는 VPN(가상 사설망)으로 위치를 조작해 Meta AI의 지원 받기 기능을 이용했고, 이 과정에서 최소 20,225개의 인스타그램 계정이 탈취됐다. AI가 비밀번호 재설정 시 이메일 일치 여부를 확인하지 않는 코드 경로 오류를 이용한 공격은 4월 17일부터 이번 주까지 수개월간 지속됐다. 메타는 이번 주 챗봇 보안 조치를 완료하고 피해자에게 알림을 보냈으나, 자동화된 복구 시스템에서 2단계 인증(2FA) 설정이 누락될 때 발생하는 취약점을 노출했다.

윈도우 PC의 AI 연산 성능은 하드웨어 통합 방식으로 전환된다. 20개의 CPU 코어와 6,000개 이상의 통합 GPU 코어, 최대 128GB 통합 메모리를 갖춘 RTX Spark(프로슈머용 독립 CPU)가 공개됐다. 1페타플롭의 AI 연산 성능을 제공하며 가을부터 Asus, Dell, HP, Lenovo, Microsoft의 윈도우 PC 및 노트북에 탑재된다. 이는 로컬 AI 모델 실행의 표준이었던 애플 M 시리즈(Apple M series)의 지배력에 도전해 윈도우 진영의 M1 모먼트를 구현하려는 전략이다.

하드웨어 부문의 대규모 영업 손실은 소프트웨어 수익화 전략으로 이어진다. 메타의 리얼리티 랩스(Reality Labs, 가상현실 연구 부문)는 지난 분기 4,200만 달러의 매출을 냈으나 영업 손실은 40억 달러에 달했다. 하드웨어 마진의 한계를 넘기 위해 기기를 차별화하는 소프트웨어 경험을 통한 수익 창출을 추진 중이다. 엔비디아는 에이전틱 AI(Agentic AI, 자율적 작업 수행 AI) 최적화 칩인 Vera Rubin(베라 루빈)의 전면 생산에 돌입했다. Vera(CPU)와 Rubin(GPU) 아키텍처를 결합한 이 칩은 OpenAI와 Anthropic에 첫 물량이 인도되어 올해 데이터 센터 구축에 투입된다.

이메일 일치 여부를 확인하지 않은 코드 경로의 오류는 20,225개 계정 탈취라는 결과로 이어졌다. AI 챗봇을 통한 복구 자동화 과정에서 기본적인 본인 확인 절차가 누락된 기술적 허점이다. 편의성을 극대화한 AI 기반 자동화 시스템일수록 2단계 인증(2FA) 설정은 선택이 아닌 필수적인 보안 계층이 된다. 검증이 생략된 자동화는 보안의 효율화가 아니라 취약점의 확장일 뿐이다.