Astra의 사이버 능력 임계(Critical) 수준 도달

Astra의 내부 평가 결과, 보안 프레임워크 기준 사이버 능력이 임계(Critical) 수준에 도달했을 가능성이 확인됐다. 이는 모델이 인간의 개입 없이 실제 시스템의 취약점을 찾아 공격 코드를 생성할 수 있는 단계에 진입했음을 의미하며, 보안 전문가들은 이에 따라 대응 방식과 배포 전략을 수정하고 있다. Astra는 출시 예정인 차세대 모델로, 최근 내부 테스트에서 사이버 보안 성능이 향상됐다. 개발사는 전문가 진단을 통해 Astra의 능력이 안전 기준을 초과했는지 검토했으며, 최종적으로 임계 능력 도달 가능성이 높다고 판단했다.

성능 향상의 핵심은 에이전틱 코딩(Agentic coding) 능력의 발전이다. Astra는 단순 명령어 처리를 넘어 복잡한 사이버 보안 목표 달성을 위한 세부 실행 계획을 스스로 수립한다. 모델이 직접 코드를 작성하고 실행 결과의 오류를 식별해 수정하는 반복 최적화 과정을 자율적으로 수행한다. 이러한 특성은 복잡한 소프트웨어 구조 분석과 취약점 탐색 효율을 높여 전반적인 사이버 보안 성능을 향상시켰다.

다만 Astra가 최근 발생한 허깅페이스(Hugging Face) 익스플로잇 사건에 관여했다는 증거는 없다. 개발사는 Astra의 내부 평가 결과와 별개로, 해당 모델이 외부의 실제 공격 사건에 이용되거나 관여하지 않았음을 명확히 했다.

기존 방식과 달라진 지점

2023년 12월에 공개된 준비 프레임워크(Preparedness Framework)는 모델이 생물학, 화학, 사이버 보안, AI 자기 개선 능력에서 특정 수준에 도달했을 때 이를 식별하고 대응하는 가이드라인이다. GPT-5.6-Sol을 포함한 이전 모델들은 프론티어 사이버 능력 평가에서 '높음(High)' 수준으로 판정되었다. 이 프레임워크는 모델 능력이 진전됨에 따라 기업이 취해야 할 안전 조치와 대응 계획의 내부 기준점이 된다.

임계(Critical) 판정의 첫 번째 기준은 인간 개입 없이 보안 강화(Hardened)된 실제 시스템에서 모든 심각도의 제로데이 익스플로잇을 식별하고 개발하는 능력이다. 제로데이 익스플로잇은 제조사가 패치를 배포하기 전의 취약점을 이용한 공격을 뜻하며, 보안 강화된 시스템은 일반적인 방어 기제가 적용된 실제 환경을 의미한다.

두 번째 기준은 상위 수준의 목표만 주어졌을 때 보안 강화된 타겟에 대해 엔드투엔드(End-to-End)의 새로운 공격 전략을 수립하고 실행하는 능력이다. 이는 목표 설정부터 대상 정찰, 취약점 분석, 최종 공격 실행까지의 전 과정을 스스로 수행하는 방식이다. 구체적인 지침 없이 최종 목적지만 제시되어도 모델이 최적의 경로를 설계하고 전략을 실행하는 자율성을 갖춰야 한다.

기존 '높음' 수준과 '임계' 수준의 결정적 차이는 인간의 개입 여부와 공격의 완결성이다. 높음 수준 모델은 보안 약점을 찾는 보조 도구에 머물렀으나, 임계 수준은 실제 시스템을 대상으로 인간 도움 없이 자율적으로 공격을 완결한다. 이는 모델의 기능이 정적인 취약점 분석에서 동적인 시스템 침투와 실행으로 확장되었음을 의미한다.

안전 제어 장치 강화 및 로버스트니스 테스트 확대

세이프가드(Safeguards)와 보안 컨트롤의 로버스트니스(Robustness) 테스트 규모를 확장했다. 로버스트니스는 외부 공격이나 입력 값 변화에도 모델 성능을 일정하게 유지하는 강건성을 뜻한다. 배포 전 단계에서 보안 취약점을 사전에 식별해 차단하는 것이 목적이다. 테스트 확대 과정에서 다양한 공격 시나리오를 적용해 보안 컨트롤의 실효성을 검증하며, 입력 필터링과 출력 모니터링 장치가 복합 공격 상황에서도 정상 작동하는지 확인한다.

2025년 6월 생물학 능력 임계치 도달 시 적용했던 안전 강화 단계를 사이버 보안 영역에 동일하게 적용한다. 외부 전문가 협업 체계를 가동해 모델 능력을 객관적으로 평가하고, 레드팀(Red Team) 방식으로 생성 코드와 전략의 실제 공격 활용 가능성을 검증한다. 추가 보안 컨트롤을 배포해 결과물이 실제 공격에 활용될 가능성을 낮췄으며, 이는 검증 프로세스를 이식해 대응 속도를 높인 결과다.

모델 개발 프로세스 전반에 보안 개발 환경을 구축했다. 기초 학습부터 미세 조정까지 접근 권한을 제한하고 모든 활동을 기록하는 모니터링 체계를 도입했다. 내부 보안 수준을 높여 고도화된 사이버 능력이 외부로 유출되거나 오용되는 경로를 물리적, 논리적으로 차단했다. 개발 환경을 보안 구역으로 설정해 모델 능력이 통제된 범위 내에서만 발현되도록 관리하며, 개발자가 보안 가이드라인을 준수하도록 강제했다.

공격 자율화 시대의 방어 전략 전환

Astra와 같은 모델의 등장은 공격자가 취약점을 찾기 전 방어자가 먼저 식별하고 해결하는 구조로의 전환을 요구한다. AI는 수천 개의 시스템을 동시에 스캔하고 맞춤형 공격 코드를 실시간으로 생성할 수 있어, 기존의 수동 점검이나 규칙 기반 탐지로는 대응 속도를 따라잡기 어렵다. 따라서 방어자는 AI 모델을 활용해 시스템 약점을 먼저 찾아 패치를 적용하는 선제적 대응 체계로 전환해야 한다.

기술적 위험 관리를 위해 정부, 안전 연구소, 시민 사회와 협력하여 Astra 및 후속 모델의 책임 있는 배포를 추진한다. 배포 전 잠재적 오용 가능성을 검토하고, 국가 단위 사이버 공격이나 인프라 마비를 초래할 수 있는 능력을 제어하기 위해 외부 전문가 검증을 거친다. 프론티어 모델의 능력을 특정 집단이 독점하지 않고 광범위하게 배포함으로써, 공격 기술의 민주화 위험을 방어 기술의 보편화로 상쇄해 전체 보안 수준을 높이는 전략이다.

한국의 기업 및 공공기관 보안 환경에서도 AI 기반 자동화 공격 도구가 보급되면 취약점 발견부터 공격 실행까지의 시간이 단축된다. 보안 담당자는 알려진 패턴 탐지를 넘어 AI가 설계한 복합 공격 경로를 예측하고 차단하는 능력을 갖춰야 한다. 모델의 자율적 공격 능력이 임계점에 도달함에 따라, 이에 맞는 보안 제어 장치를 설정하는 것이 실무적인 핵심 과제다.

인간 개입 없이 보안 강화된 실제 시스템에서 모든 심각도의 제로데이 익스플로잇(패치되지 않은 취약점을 이용한 공격)을 식별하고 개발하며, 상위 목표만으로 엔드투엔드(End-to-End, 전 과정) 공격 전략을 수립할 수 있는지가 보안 제어 장치의 수준을 결정하는 최종 판정 기준이다.