facts

ARC-AGI-3 벤치마크에서 99.9%를 기록하며 논리 퍼즐 해결과 일반화 능력을 입증했다. 이전 모델인 GPT-5.6 Sol이 7.8%를 기록한 것과 비교해 비약적인 상승폭을 보였다. 다만 외부 독립 평가 기관인 Artificial Analysis의 'Coding Agent Index v1.4'에서는 최전선(Frontier) 수준의 성능을 보였으나, 이전 세대 대비 압도적인 격차를 벌리지는 못한 것으로 나타났다. 해당 평가는 GDPval-AA, AA-Briefcase 등 오픈소스 Stirrup 하네스를 사용해 모델 간 비교 조건을 통일했다.

컴퓨터 사용(Computer Use) 능력은 그래픽 인터페이스(GUI) 상호작용에서 두드러진다. 브라우저 기반의 MS Paint에서 마우스 커서를 직접 움직여 그림을 다시 그리는 작업이나, Blender를 이용한 뉴욕시 렌더링, 가상 오픈 하우스 투어 등이 가능하다. 이는 모델이 텍스트와 API를 넘어 로컬 컴퓨터의 소프트웨어를 직접 조작하는 단계로 진입했음을 의미한다.

학습 인프라 측면에서는 약 10만 개의 NVIDIA Grace Blackwell GPU가 투입되었다. 특히 강화 학습(RL)을 위해 수만 대의 Mac Mini와 Mac Studio를 도입했다. 이 맥 기기들은 모델의 가중치를 직접 학습시키는 용도가 아니라, 모델이 macOS 환경과 도구들을 학습할 수 있도록 하는 상호작용 환경(Environment)으로 활용되었다. 학습 파이프라인은 '작업 프롬프트 입력 $\rightarrow$ GUI 스크린샷 제공 $\rightarrow$ 마우스/키보드 동작 예측 $\rightarrow$ 맥 환경에서 실행 $\rightarrow$ 업데이트된 스크린샷 피드백'의 루프로 구성되며, 결과에 따라 RLVR(Reinforcement Learning with Verifiable Rewards) 방식으로 최적화된다.

how-it-works

루프 트랜스포머(Looped Transformer)의 핵심은 중간 표현(Intermediate Representation)을 동일한 트랜스포머 블록에 여러 번 통과시키는 구조다. 일반적인 모델이 층을 쌓아 깊이를 늘리는 것과 달리, 가중치를 공유하며 반복 실행한다. 예를 들어 22개의 트랜스포머 블록을 두 번 루프시키면, 실제 연산 횟수는 44회로 늘어나 유효 깊이(Effective Depth)가 확장되지만, 저장해야 할 가중치 파라미터는 22개 분량만 유지된다. 이는 메모리 사용량을 줄이면서 모델의 추론 능력을 높이는 전략이다.

가중치 공유 방식은 연산 비용과 메모리 효율 사이의 트레이드오프를 가진다. 순전파(Forward Pass) 시에는 일반적인 44층 모델과 동일한 계산량이 필요하며, 역전파(Backprop) 시에도 모든 루프 단계의 그래디언트를 계산해야 하므로 학습 비용은 줄어들지 않는다. 특히 KV 캐시(KV Cache)의 경우, 루프의 각 회차마다 입력되는 중간 상태가 다르기 때문에 회차별로 별도의 캐시 엔트리를 유지해야 한다. Nanbeige 4.2-3B 연구팀이 KV 캐시를 공유하는 실험을 진행했으나, 성능 저하가 발생해 결국 별도 캐시 방식을 채택한 바 있다.

추론 과정의 토큰 효율성은 모델의 지능 수준과 직결된다. GPT-6 Astra는 GPT-5.6 Sol과 비교해 동일한 정확도를 달성하는 데 더 적은 출력 토큰을 사용한다. 이는 루프 트랜스포머가 내부적으로 더 많은 연산을 수행함으로써, 외부로 드러나는 '생각의 사슬(Chain of Thought)' 토큰을 줄였기 때문이라는 분석이 있다. 다만 OpenAI의 수석 과학자 야쿠브 파초키(Jakub Pachocki)는 Astra의 계산 그래프 깊이가 GPT-4의 2배 이내이며, 추론 흔적의 모니터링 가능성 저하는 아키텍처 변경보다는 모델의 전반적인 최적화 경향에 따른 것이라고 설명했다.

implementation-impact

에이전트 구현 방식의 변화는 하네스(Harness) 계층의 중요성을 높인다. 기존에는 CLI나 API 중심의 제어가 주를 이뤘으나, 이제는 GUI 스크린샷을 해석하고 좌표 기반의 입력을 생성하는 컴퓨터 사용 능력이 핵심 변수가 된다. 개발자는 모델이 OS 환경과 상호작용하는 과정에서 발생하는 지연시간과 실행 오류를 검증하기 위한 전용 샌드박스 환경 구축을 우선적으로 고려해야 한다.

실무자가 가장 먼저 검토해야 할 점은 프롬프트 내의 과도한 지침 제거다. 최신 모델은 프롬프트 이해도가 높아져 기존에 사용하던 AGENTS.md나 SKILL.md 파일의 세부 가이드라인이 오히려 모델의 유연한 문제 해결을 방해하는 제약 조건으로 작용할 수 있다. 따라서 기존의 정교한 핸드홀딩(Hand-holding) 지침을 아카이브하고, 모델이 스스로 최적의 경로를 찾도록 유도한 뒤 결과물을 재생성하여 지침 파일을 업데이트하는 과정이 필요하다.