추론 과정이 필수인 'Max급' 오픈 모델의 등장

이번에 공개된 Qwen3.8-2.4T-A95B는 그동안 폐쇄적으로 운영되던 Qwen-Max급 성능을 오픈 모델 형태로 배포한 첫 사례다. Hugging Face Transformers 포맷으로 제공되는 이 모델은 vLLM, SGLang, TokenSpeed 등 주요 추론 프레임워크와 호환된다.

가장 눈에 띄는 제약은 모든 상호작용에서 '사고 모드(thinking mode)'가 강제된다는 점이다. 텍스트 전용 모델인 이 버전은 사용자가 사고 과정을 끌 수 없으며, 모든 응답은 반드시 `<think>\n...</think>` 태그로 둘러싸인 추론 과정이 먼저 출력된 후 최종 답변이 나오는 구조를 가진다. 이는 모델이 정답을 내놓기 전 내부적으로 논리적 단계를 밟도록 설계되었음을 의미한다.

성능 측정에서는 코딩, 전문 업무, 연구 및 장기 에이전트 작업(long-horizon agentic tasks)에서 상당한 개선이 확인됐다. 특히 단순한 질의응답을 넘어 복잡한 다단계 작업을 끝까지 완수하는 신뢰도를 높이는 데 집중했다. 개발팀은 Terminal Bench 2.1, SWE-bench Pro, DeepSWE 1.1 등 소프트웨어 엔지니어링 관련 벤치마크를 통해 이를 검증했으며, 일부 지표에서는 Claude Code 하네스를 사용해 성능을 측정했다.

에이전트 작업의 신뢰도와 비용 제어권 확보

오픈 모델 시장에서 Max급 성능을 제공한다는 것은 기업이 인프라를 직접 제어하면서도 최상위 모델의 추론 능력을 활용할 수 있는 선택지가 넓어졌음을 뜻한다. 특히 이번 모델은 '추론 노력(reasoning_effort)'이라는 공식 지원 파라미터를 도입했다. 이를 통해 사용자는 추론의 깊이를 조절함으로써 응답의 정밀도와 운영 비용 사이의 균형을 직접 설정할 수 있다.

이러한 흐름은 AI의 역할이 단순 챗봇에서 '에이전트'로 이동하고 있음을 보여준다. Qwen3.8은 복잡한 단계의 작업을 수행하는 에이전트적 과업에서 더 높은 신뢰성을 보이도록 설계됐다. 내부적으로는 `preserve_thinking` 옵션이 기본 활성화되어 있어, 모델이 도출한 사고 과정을 그대로 유지하며 최적의 결과물을 내놓도록 유도한다.

채택 관점에서 보면, 인프라 유지보수 없이 확장 가능한 추론을 원하는 사용자를 위해 Qwen Claude API 서비스가 함께 제공된다. 특히 API 버전인 Qwen3.8-Max는 오픈 버전인 2.4T-A95B보다 확장된 기능을 갖췄다. 시각 입력(vision input) 지원, 사고 모드 비활성화 옵션, 기본 100만(1M) 토큰의 컨텍스트 길이, 공식 내장 도구 등이 포함되어 사용 목적에 따른 선택 폭을 구분했다.

실무자가 확인해야 할 도입 조건과 제약

한국의 AI 개발자와 실무자가 이 모델을 도입할 때 가장 먼저 고려해야 할 점은 출력 길이의 확보와 파싱 전략이다. 추론 과정이 강제되므로, 최종 답변만 필요한 서비스라면 `<think>` 태그를 분리해 처리하는 전처리 로직이 필수적이다. 또한 에이전트 작업의 성능을 최적화하기 위해 모델이 충분하고 상세한 응답을 생성할 수 있도록 출력 토큰 길이를 넉넉하게 할당해야 한다.

운영 환경에서는 프레임워크별 성능 차이가 크게 나타나므로 최신 버전의 SGLang이나 vLLM 사용이 권장된다. 특히 100만 토큰의 컨텍스트 윈도우 내에서 내부 추론 토큰과 최종 출력 토큰의 제한을 분리해 설정할 수 있는 프레임워크를 선택하는 것이 효율적이다. 이는 복잡한 추론에 필요한 공간을 확보하면서도 최종 결과물의 품질을 유지하기 위한 핵심 설정이다.

결국 이번 공개로 인해 개발자는 '성능 중심의 API(Max)'와 '제어 중심의 오픈 가중치(2.4T-A95B)' 사이에서 명확한 기준을 가지고 모델을 선택할 수 있게 됐다. 특히 추론 깊이를 조절하는 `reasoning_effort` 파라미터의 실제 비용 절감 효과와 응답 품질 간의 상관관계를 테스트하는 것이 다음 관찰 지점이 될 것이다.