슬롭스쿼팅의 정의와 소프트웨어 공급망 위협 수치
슬롭스쿼팅(Slopsquatting)은 AI의 환각(Hallucination) 현상을 이용해 개발 워크플로우에 악성 코드를 주입하는 새로운 유형의 공급망 공격이다. 이는 'AI 슬롭(AI Slop)'과 '타이포스쿼팅(Typosquatting)'의 합성어로, LLM(대규모 언어 모델)이 존재하지 않는 가공의 소프트웨어 패키지 이름을 생성하는 특성을 악용한다. 공격자는 AI가 자주 만들어내는 가짜 패키지 이름을 미리 파악해 해당 이름으로 악성 코드가 담긴 패키지를 등록하고, 이를 AI의 추천을 통해 개발자가 설치하도록 유도한다.
소프트웨어 공급망의 보안 취약점은 이미 가파른 상승 곡선을 그리고 있다. 한 연구팀이 10개 프로그래밍 언어에 걸친 14,675개 패키지의 취약점 31,267건을 분석한 결과, 보고된 취약점은 연간 98%의 비율로 증가하고 있다. 이는 오픈소스 소프트웨어 패키지 수의 연간 증가율인 25%를 크게 상회하는 수치다. 또한 취약점의 평균 수명(Lifespan) 역시 85% 증가하며 전반적인 보안 수준이 하락하고 있음이 확인됐다.
이러한 환경에서 슬롭스쿼팅은 기존의 보안 체계를 우회한다. AI가 생성한 가짜 패키지는 단순한 오타가 아니라 문맥상 그럴듯한 이름을 가지기 때문에, 개발자는 이를 유효한 의존성으로 신뢰하고 코드베이스에 통합하게 된다. 일단 설치된 악성 패키지는 운영 환경에서 수개월 또는 수년간 탐지되지 않은 채 잠복하며 지속적으로 멀웨어를 주입할 수 있는 경로가 된다.
AI 환각 메커니즘과 모델별 패키지 생성 오류율
기존의 타이포스쿼팅이 'cross-env'라는 인기 패키지를 'crossenv'처럼 철자를 살짝 바꿔 등록하는 방식이었다면, 슬롭스쿼팅은 'cross-env-extended'와 같이 완전히 새롭지만 그럴듯한 이름을 생성한다. 패키지 저장소(Registry)는 단순 오타에 대해서는 보호 조치를 수행하지만, AI가 생성한 가공의 이름은 정상적인 패키지 등록으로 인식하므로 대규모 차단이 불가능하다.
LLM은 정확성보다 통계적으로 가장 확률이 높은 답변을 생성하는 특성이 있어 환각 현상이 빈번하게 발생한다. 연구에 따르면 모델과 프롬프트 방식에 따라 환각률은 50%에서 82%에 달하며, 성능이 가장 뛰어난 GPT-4o조차 프롬프트 기반 완화 조치를 적용했을 때 최저 23%의 환각률을 기록했다.
특히 모델의 종류에 따라 패키지 환각 발생 빈도에서 뚜렷한 차이가 나타났다. 30개 시스템을 대상으로 576,000개의 코드 샘플과 223만 개의 패키지를 생성해 테스트한 결과, 전체 환각률은 19.7%로 집계됐다. 모델별 세부 수치를 보면 GPT-4 Turbo의 환각률은 3.59%였으나, 오픈소스 모델 중 성능이 우수하다고 평가받는 DeepSeek 1B는 13.63%를 기록했다. 이는 상용(Proprietary) 모델이 오픈소스 모델보다 가짜 패키지를 생성할 확률이 약 4배 낮음을 의미한다.
공격자는 이러한 환각의 비무작위성을 이용한다. 특정 모델이 반복적으로 생성하는 가짜 패키지 이름을 파악해 선점함으로써 수만 명의 개발자를 동시에 속일 수 있다. 더 나아가 토큰 수준의 조작이나 검색 오염(Retrieval Poisoning)을 통한 적대적 환각 공격을 수행하면, 모델이 특정 악성 패키지를 추천하도록 강제할 수도 있다.
개발 환경의 변화와 실무적 검증 대응 방안
AI 코딩 도구의 도입 속도는 보안 위협의 표면적을 빠르게 넓히고 있다. AI 도구를 사용하는 개발자들은 자신이 커밋하는 코드의 40% 이상에 AI의 도움을 받았다고 추정하며, AI 사용자 중 72%는 이를 매일 활용하고 있다. 이처럼 '바이브 코딩(Vibe Coding)'과 AI 보조 코딩이 확산되고 있지만, 정작 AI가 추천한 의존성을 검증하는 프로세스는 부족한 실정이다.
특히 오픈소스 AI 도구에 의존해 코드를 생성하는 조직은 상용 도구 사용자보다 슬롭스쿼팅 공격에 노출될 위험이 약 4배 높다. 다만 상용 모델이 항상 안전한 것은 아니며, 공격자가 상용 모델의 안전성 인식을 역이용해 조작을 시도할 가능성이 상존한다.
실무 단계에서 개발자와 보안 팀이 취해야 할 구체적인 대응 방안은 다음과 같다.
첫째, AI가 추천한 패키지를 프로젝트에 통합하기 전, 공식 저장소(Official Repositories)에서 해당 패키지가 실제로 존재하는지 반드시 수동으로 확인해야 한다.
둘째, 추천된 패키지 이름을 기등록된 저장소 리스트와 대조하여 검증하는 자동화 체크 시스템을 구축해야 한다. 이를 통해 환각으로 생성된 패키지가 운영 코드에 진입하기 전에 차단할 수 있다.
셋째, 보안 팀은 비정상적인 패키지 설치 패턴을 모니터링하고, 알려진 슬롭스쿼팅 캠페인에 대한 최신 위협 인텔리전스를 유지해야 한다. AI가 제공하는 편의성보다 의존성 검증이라는 기본 보안 원칙을 우선순위에 두는 판단이 필요하다.
