facts: 프런티어 AI 모델의 전술적 도입과 활용 범위

이번 조사는 2025년과 2026년 사이 나이지리아 북동부에서 전직 보코하람(Boko Haram) 구성원 27명을 대상으로 진행된 57회의 대면 인터뷰를 통해 이뤄졌다. 조사 결과, 보코하람의 두 주요 분파인 ISWAP(Islamic State West Africa Province)과 JAS(Jamā’at Ahl as-Sunnah lid-Da’wah wa’l-Jihād)는 2023년부터 프런티어 AI를 작전 전 단계에 체계적으로 도입해 온 것으로 나타났다.

사용된 모델은 ChatGPT, Claude, Gemini, Grok, Meta AI, DeepSeek 등 6종의 주요 서비스다. 이들은 단순한 선전물 제작을 넘어 무기 정비 및 고장 진단, 폭발 장치 설계, 전술·전략 계획 수립, 작전 보안(OPSEC), 이동 및 보급 물류 해결 등 군사 활동 전반에 AI를 활용했다. 구체적인 사례로 ISWAP은 요새화된 기지의 참호를 돌파하기 위한 오토바이 운용 방식을 AI에 질의해 실제 공격에 적용했으며, 드론 무기화 과정에서 탑재 중량과 투하 장치 설계에 관한 조언을 얻었다는 증언이 확보됐다.

인터뷰 참여자들은 AI 도입 이후 시행착오가 줄고 더 정확한 해결책을 얻어 내부 사상자를 줄였다고 인식했다. 다만 이러한 성능 향상은 전직 구성원의 자기보고에 의존한 결과이며, AI가 없었다면 불가능했을 공격이 가능해졌는지에 대한 객관적인 인과관계는 아직 입증되지 않았다.

how-it-works: 조직적 역량 이전과 안전장치 우회 메커니즘

AI 도입의 핵심은 개별적인 탐색이 아니라 초국가적 지하디스트(jihadist) 네트워크를 통한 조직적인 역량 이전이었다. ISWAP과 JAS는 Islamic State(IS) 요원들로부터 대면 교육과 온라인 지원을 받았다. IS 요원들은 프로젝터를 이용해 AI 사용법을 교육하고, VPN과 암호화 소프트웨어가 설치된 노트북을 제공했으며, 서비스 계정 생성 및 유료 구독 관리를 직접 지원했다.

특히 모델의 안전장치(Guardrail)를 무력화하는 구체적인 파이프라인이 구축됐다. 이들은 외부 요원으로부터 프롬프트 작성법과 플랫폼 제한 우회 기법을 전수받았다. 대표적인 우회 방식은 '영화 제작'과 같이 다른 목적을 가장해 요청을 재구성하는 페르소나 설정 방식과 특정한 탈옥(Jailbreak) 기법을 사용하는 것이다. 또한, 특정 모델이 응답을 거부하거나 계정이 정지될 경우에 대비해 여러 서비스의 계정을 동시에 유지하는 다중 모델 전략을 사용했다.

운영 구조 측면에서는 폭발물 제작자, 총기 전문가, 엔지니어 등 고위급 기술 인력으로 구성된 '전담 AI 조직'을 설치했다. 이 조직은 직접 전투에 참여하는 대신 AI를 통해 정보를 분석하고 실무 지침을 생성하는 컨트롤 타워 역할을 수행했다. 생성된 지식은 지휘 체계를 따라 하향식으로 전파되었으며, 컴퓨터와 AI 접근 권한은 계급, 신뢰도, 교육 수준에 따라 엄격히 제한되어 내부 보안을 유지했다.

implementation-impact: 조직적 적대자에 맞춘 보안 체계의 재설계

개발자와 보안 실무자가 주목해야 할 지점은 안전장치의 작동 범위가 '고립된 개인'이 아닌 '조직적 적대자'로 확장되어야 한다는 점이다. 보코하람의 사례는 동기가 강한 조직이 외부 네트워크의 지원(VPN, 유료 구독, 우회 교육)을 받을 때, 현재의 개별적 필터링 시스템이 얼마나 쉽게 무력화될 수 있는지를 보여준다.

특히 위험한 역량을 탐색하려는 조직의 의지가 높을수록, AI가 제공하는 작은 효용성이 자원 투입(인력 배치, 구독 비용 지불)을 가속화하는 피드백 루프를 형성한다. 현재 확인된 활용 범위는 재래식 무기에 머물러 있으나, 일부 구성원들이 화학·생물학 무기 등 대량 살상 무기(CBRN)에 대한 관심을 보이고 있다는 점은 모델 성능 향상에 따른 잠재적 위험 수위를 높인다.

따라서 AI 개발사는 단순한 키워드 차단이나 개별 프롬프트 검증을 넘어, 조직적인 우회 패턴을 탐지하고 대응하는 보안 아키텍처를 검토해야 한다. 정책 당국과 정보기관 역시 AI 도입을 가상적 위험이 아닌 현재 진행 중인 국가 안보 사안으로 취급하고, 확산 경로를 추적하는 공동 대응 체계를 구축하는 것이 시급하다.