최근 개발자 커뮤니티에서 사이버 범죄의 새로운 양상이 뜨겁게 논의되고 있다. AI 도구가 사이버 범죄자들에게 새로운 기회를 제공하면서, 이들이 어떻게 공격 방식을 변화시키고 있는지가 주목받고 있다. 이번 주 깃허브 트렌드에서 AI를 활용한 범죄 관련 프로젝트들이 급증하며, 개발자들은 이 현상에 대한 우려와 경각심을 드러내고 있다.

AI 도구의 범죄 활용 현황

AI 도구의 발전은 사이버 범죄자들에게 막대한 영향을 미치고 있다. 2022년 말 ChatGPT가 공개된 이후, 범죄자들은 대량의 인간처럼 보이는 텍스트를 생성할 수 있는 능력을 활용하기 시작했다. 이들은 AI를 이용해 피싱 이메일을 작성하고, 심지어는 고급 공격을 위한 맞춤형 메시지를 생성하는 데까지 나아갔다. AI는 또한 딥페이크 영상 제작, 악성 소프트웨어(일명 맬웨어)의 변형, 네트워크 취약점 탐색 자동화 등 다양한 방식으로 범죄를 지원하고 있다.

특히, 동남아시아의 사기 센터들은 저렴한 AI 도구를 활용해 더 많은 잠재적 피해자를 신속하게 타겟팅하고, 새로운 위치로 빠르게 이동하는 전략을 취하고 있다. 최근 아랍에미리트는 AI 기반의 공격을 차단한 사례를 발표하며, 이러한 공격이 얼마나 광범위하게 이루어지고 있는지를 경고했다. 이처럼 범죄자들은 대규모로 공격을 감행할 수 있어, 공격의 정교함보다는 운에 의존하는 경우가 많아지고 있다.

사이버 공격의 증가와 방어의 필요성

사이버 공격의 양과 질이 증가하면서 많은 조직들이 이에 대응하기 위해 고군분투하고 있다. 최근 AI 회사인 Anthropic은 자사의 모델 Mythos가 주요 운영 체제와 웹 브라우저에서 수천 개의 취약점을 발견했다고 주장했다. 이 모델은 모든 취약점이 패치되었다고 하지만, 이러한 새로운 기능으로 인해 출시가 지연되고 있다. Anthropic은 Project Glasswing라는 기술 기업 컨소시엄을 구성하여 방어 목적으로 이러한 기능을 활용할 계획이다.

현재 사이버 보안 연구자들은 기본적인 방어 수단으로도 느슨한 공격을 막을 수 있다고 낙관하고 있다. 소프트웨어 업데이트를 철저히 하고 네트워크 보안 프로토콜을 준수하는 것이 얼마나 중요한지를 강조하고 있다. 그러나 더 정교한 공격에 대한 방어 준비는 여전히 불확실한 상황이다.

AI를 통한 방어와 미래 전망

좋은 소식은 AI가 방어에도 활용되고 있다는 점이다. 마이크로소프트는 매일 100조 개 이상의 신호를 처리하며, 이 중 잠재적으로 악의적인 것으로 분류된 신호를 감시하고 있다. 2024년 4월부터 2025년 4월까지 이 회사는 AI 콘텐츠에 의해 지원된 많은 사기 및 부정 거래를 차단하여 40억 달러의 손실을 막았다. 이러한 공격을 가능하게 하는 기술이 미래의 방어 수단이 될 수 있다는 점에서, AI의 역할은 더욱 중요해질 것이다.