Qwen research lab이 Qwen 3.8 27B

21분이라는 시간과 22,276개의 추론 토큰을 소모하며 단순한 SVG 파일을 생성하던 과잉 추론 사례를 해결할 대안으로 Alibaba의 Qwen research lab이 Qwen 3.8 27B를 출시했다. 27B 파라미터 규모의 이 모델은 텍스트뿐 아니라 이미지 분석이 가능한 시각 능력(vision-capable)을 갖춘 LLM(거대언어모델)이다. 파라미터는 인공지능이 학습 과정에서 정보를 저장하는 연결 고리로, 이 숫자가 많을수록 더 정교한 사고가 가능하다. 특히 누구나 자유롭게 소프트웨어를 사용하고 수정해 배포할 수 있는 Apache 2 라이선스로 공개되어 기업이나 개인 개발자의 활용 문턱을 낮췄다.

추론의 깊이와 비용을 사용자가 직접 조절하는 reasoning_effort(사고의 깊이 설정) 기능을 지원한다. 기본값은 가장 깊게 생각하는 xhigh로 설정되어 있어 복잡한 문제에 대해 정밀한 답변을 내놓는다. 이는 AI가 정답을 출력하기 전까지 내부적으로 얼마나 많은 단계의 논리 과정을 거칠지 결정하는 조절 다이얼과 같다. 사용자는 이 설정을 통해 모델이 고민하는 시간을 줄여 처리 비용을 아끼거나, 반대로 더 깊은 추론을 유도해 결과물의 정확도를 높이는 방식으로 운영 효율을 관리할 수 있다.

이전 모델 및 폐쇄형 모델보다 향상된 벤치마크 성능을 보인다

8,192개로 설정된 LM Studio의 기본 컨텍스트 제한에서는 아주 단순한 문제를 해결할 때조차 추론 과정에서 토큰을 모두 소모하는 문제가 발생한다. 컨텍스트 길이는 AI가 한 번에 읽고 기억하며 처리할 수 있는 텍스트의 총량을 뜻한다. 이를 최대치인 262,144 토큰으로 확장해 적용하면 토큰 부족으로 사고가 끊기던 현상이 사라진다. 모델이 정답을 도출하기 위해 거치는 생각의 경로를 충분히 확보해 주는 작업이다.

자체 보고된 벤치마크 수치는 Qwen 3.8 27B가 이전 버전인 Qwen 3.6 27B보다 향상된 성능을 보인다는 점을 증명한다. 특히 가중치 폐쇄형 모델인 Qwen 3.7-Plus보다도 더 나은 결과를 냈다. 가중치 폐쇄형 모델은 AI의 지능을 결정하는 핵심 수치인 가중치를 외부에 공개하지 않는 방식으로, Qwen 3.7-Plus는 올해 5월까지만 해도 모든 크기의 모델 중 가장 강력한 성능을 냈던 모델이다. 설계도를 공개한 모델이 내부 정보를 숨긴 상위 모델의 성능을 앞지른 결과다.

기본 추론 설정(xhigh) 사용 시 모델이 요청보다 과하게

단순한 원형 SVG(웹용 벡터 그래픽) 요청이 애니메이션이 포함된 기하학적 연구물로 변했습니다. 기본 추론 설정인 xhigh를 적용했을 때 나타난 현상입니다. 도구 제작을 요청해도 묻지 않은 데모 장면을 추가하는 등 과하게 설계하는 모습이 보였습니다. 생각하는 강도를 낮추지 않으면 요청보다 복잡한 결과물을 내놓는 경향이 있습니다.

0-1000 스케일을 활용해 사진 속 펠리컨 같은 객체 주변에 정확한 바운딩 박스(객체 위치를 표시하는 사각형 틀)를 그리는 작업은 능숙하게 처리합니다. 시각 정보를 좌표로 변환하는 능력이 뛰어납니다.

llama.cpp(로컬 환경에서 모델을 실행하는 도구)에서 `--spec-type draft-mtp` 옵션을 사용하면 추론 속도를 약 72% 높일 수 있습니다. M5 Max와 DGX Spark 환경에서 측정된 수치이므로, 사용 중인 하드웨어에 맞춰 추론 강도(reasoning_effort)와 가속 옵션인 MTP(다중 토큰 예측)를 조절하며 성능과 속도의 균형점을 찾아야 합니다.