최신 AI 모델 'Astra'를 출시했다

제로데이 취약점을 식별해 방어자가 약점을 패치하도록 돕는 능력은 이제 컴퓨터와 브라우저를 사용하는 방식에 있어 새로운 경계를 제시하는 수준으로 진화했다. OpenAI가 출시한 최신 AI 모델 Astra는 지금까지 공개한 모델 중 가장 강력하고 유능한 성능을 구현했다. 특히 속도와 정확성, 안전성이라는 세 가지 핵심 지표에서 타의 추종을 불허하는 처리 능력을 보여준다는 것이 개발사의 주장이다.

배포는 사이버 보안 프로그램인 Daybreak(데이브레이크) 고객을 시작으로 단계적으로 진행된다. 지난 목요일 Daybreak 사용자들에게 가장 먼저 모델이 제공되었으며, 보안 전문 영역에서의 실질적인 활용 가능성을 우선적으로 확인하는 단계를 거친다.

이후 일주일 동안은 OpenAI의 유료 플랜 사용자 전반으로 제공 범위가 확대된다. Pro와 Plus 계정은 물론 기업용인 Enterprise 및 Business 계정 사용자까지 모두 포함된다. 일반 사용자뿐 아니라 개발 환경에서 직접 호출해 사용할 수 있는 API를 통해서도 Astra의 기능이 순차적으로 공개될 예정이다.

기술이 실제로 작동하는 방식

버그 찾기와 터미널 작업 수행, 코드베이스 쿼리 응답 같은 구체적인 벤치마크 테스트에서 기존 모델들을 앞서는 결과가 나왔다. OpenAI는 Astra가 현재까지 출시된 소프트웨어 엔지니어링 모델 중 가장 뛰어난 성능을 보인다고 주장한다. 자사 모델인 Sol은 물론 Anthropic의 Fable보다 높은 점수를 기록하며 소프트웨어 개발 영역에서의 우위를 보였다.

불투명 재귀(opaque recurrence, AI의 추론 과정을 외부에서 확인하기 어렵게 만드는 기술)라는 추론 방식의 도입은 모니터링 논란을 불러왔다. 이 기술은 연구자가 AI가 어떻게, 그리고 왜 특정 결정을 내렸는지 감사할 수 있게 돕는 사고 과정(chain of thought, AI가 결론에 도달하기까지의 단계적 추론 경로) 프로세스를 가린다. 모델의 내부 결정 경로를 불투명하게 만들어 연구자가 AI의 판단 근거를 추적하는 일을 어렵게 만든다.

Jakub Pachocki는 모델 능력이 향상됨에 따라 더 적은 언어 토큰을 사용하여 작업을 수행하게 된 결과라고 설명했다. 토큰 사용량이 줄어들며 모니터링이 더 까다로워지는 현상은 모델 발전 과정에서 나타나는 자연스러운 진화라는 입장이다. 추론의 효율성이 극대화될수록 외부에서 그 과정을 세밀하게 추적하고 검증하는 일은 더 어려워진다.

제로데이 취약점을 식별하고 개발할 수 있는 능력을 갖추고 있다

제로데이 취약점을 식별하고 이를 직접 개발하는 능력이 모델에 탑재됐다. 보안 방어자가 시스템의 약점을 찾아 패치하는 과정에 이 능력을 활용할 수 있다. OpenAI는 안전한 사용자 경험을 위해 새로운 보호 장치를 도입하고, 다양한 보안 벤치마크 테스트를 통해 해당 기능의 작동 여부를 검증했다.

AGI(인공일반지능)의 정의가 과거의 계약적 의무에서 미션이나 정신적 개념으로 변화했다. Microsoft와의 계약에 존재했던 AGI 도달 시 파트너십을 해지한다는 구체적인 조항은 더 이상 유효하지 않다. Greg Brockman은 개인적으로 현재 AGI 단계에 도달했다고 생각한다.

모델 성능이 올라갈수록 더 적은 토큰을 사용하거나 토큰 없이 과업을 수행하게 되어 인간이 모델의 추론 과정을 모니터링하기 어려워지는 제약이 발생한다. 다음 주 공개 예정인 Pro, Plus, Enterprise, Business 플랜 및 API 제공 일정을 통해 실제 운용 기준을 확인해야 한다.