GLM-5 시리즈 최초의 네이티브 멀티모달 모델인

이전 버전인 GLM-5.2보다 뛰어난 벤치마크 결과를 기록하면서 운영 비용을 10분의 1 수준으로 낮춘 성과는 전체 파라미터 320B 중 실제 연산에 참여하는 활성 파라미터를 18B로 제한한 설계에서 비롯됐다. 지능 수준을 유지하면서 연산 비용과 메모리 점유율 문제를 해결한 이 기술은 텍스트와 이미지 등 여러 형태의 데이터를 동시에 처리하는 GLM-5 시리즈 최초의 네이티브 멀티모달 모델 GLM-5.3-Flash로 구현되어 공개되었다.

텍스트와 이미지 등 서로 다른 형태의 데이터를 동시에 처리하는 네이티브 멀티모달 방식을 채택했다. 지능 수준을 유지하면서도 연산 비용을 획기적으로 낮추는 데 집중했으며, 특히 대규모 모델의 고질적인 문제인 추론 비용과 메모리 점유율을 해결해 실제 서비스 적용 가능성을 높였다.

로컬 환경에서 모델을 구동하려는 개발자는 HuggingFace CLI를 통해 모델 가중치를 다운로드하고 필요한 환경 설정을 마칠 수 있다. vLLM이나 SGLang과 같은 고성능 추론 엔진을 활용하면 대규모 요청을 효율적으로 처리할 수 있으며, 이 외에도 TokenSpeed와 KTransformers 등 다양한 프레임워크를 통한 배포를 지원한다.

기술이 실제로 작동하는 방식

전체 320B(3,200억 개) 파라미터 중 실제 연산에 참여하는 활성 파라미터를 18B(180억 개)로 제한한 구조가 GLM-5.3-Flash의 핵심이다. 이는 모델의 전체 규모를 유지하면서도 실제 가동되는 자원을 최소화해 운영 효율을 극대화하려는 전략이다. 모델은 30T(30조 개) 규모의 토큰(AI가 텍스트를 처리하는 최소 단위)으로 구성된 멀티모달 사전 학습 코퍼스(데이터 집합)를 통해 학습되었다.

연산 효율을 높이기 위해 Sparse Attention(데이터의 중요도에 따라 선택적으로 집중하는 방식)과 Linear Attention(연산 복잡도를 선형적으로 줄여 처리 속도를 높이는 방식)을 결합한 하이브리드 구조를 도입했다. 여기에 mHC(Manifold-Constrained Hyper-Connections, 모델 규모 확장 시 효율을 높이는 연결 기술)를 적용해 모델 학습 과정의 최적화를 꾀했다. 이러한 설계는 긴 문맥을 처리할 때 발생하는 계산 비용을 효과적으로 줄이는 역할을 한다.

이러한 기술적 변화를 통해 GLM-5.3-Flash는 이전 버전인 GLM-5.2와 비교해 운영 비용을 10분의 1 수준으로 낮췄다. 성능 면에서도 벤치마크 점수를 높였으며, 특히 코딩과 에이전트(스스로 목표를 설정하고 도구를 사용하여 과업을 수행하는 지능형 프로그램) 영역에서는 Anthropic의 Claude Opus 4.8 모델에 근접하는 결과치를 기록했다.

저비용 고효율 구조를 통해 복잡한 소프트웨어 개발 자동화

NL2Repo(자연어를 코드 저장소로 변환하는 작업) 평가에서 temperature 1.0, top_p 1.0 설정 하에 1M(100만 개) 컨텍스트를 처리하며 안정적인 성능을 입증했다. 또한 DeepSWE(소프트웨어 엔지니어링 문제 해결 능력 측정)와 Terminal-Bench 2.1(터미널 환경 제어 능력)을 통해 복잡한 개발 과업을 수행할 수 있음을 확인했다. 시각 지능 평가인 BabyVision에서는 입력 이미지의 짧은 쪽을 1.5K 픽셀로 조정하고 164K 토큰의 문맥을 활용했으며, AutomationBench v1.0.6를 통해 자동화 도구 활용 능력까지 검증을 마쳤다.

개발자는 이제 고가의 모델을 사용하지 않고도 복잡한 소프트웨어 개발 자동화나 멀티모달 데이터 분석 에이전트를 직접 구축할 수 있게 되었다. GLM-5.3-Flash는 고성능 멀티모달 AI의 대중화를 이끌며 저비용 고효율 에이전트 시장의 새로운 기준을 제시했다.

고가의 모델 없이도 Claude Opus 4.8에 근접한 코딩 및 에이전트 성능을 구현할 수 있는 실질적 근거를 확보했다.