Granite 4.2 모델 라인업과 추론 제어 모드

IBM이 3B, 8B, 30B 세 가지 규모의 Granite 4.2 모델군을 공개하며 작업 난이도에 따라 추론 자원을 선택적으로 사용하는 구조를 도입했다. 모든 모델은 밀집형 디코더 전용(dense, decoder-only) 아키텍처를 기반으로 설계되었으며, 답변 생성 전 스스로 사고 과정을 도출하는 사고 사슬(chain of thought) 생성 능력을 갖췄다. 사용자는 과업의 복잡도에 따라 thinking(추론), non-thinking(비추론), low-effort thinking(저비용 추론)의 세 가지 모드 중 하나를 선택해 응답 속도와 정확도 사이의 균형을 조절한다. thinking 모드는 복잡한 수학 문제나 코드 분석에 최적화되어 정답률을 높이며, low-effort thinking 모드는 쉬운 질문에 제한적인 토큰 예산을 할당해 연산 낭비를 방지한다.

Granite 4.2는 모든 모델 크기에서 외부 시스템 기능을 실행하는 네이티브 도구 호출(native tool calling) 기능을 지원한다. 모델 라인업은 매개변수 규모에 따라 3B, 8B, 30B로 제공되며, 숫자가 클수록 복잡한 패턴 학습 능력이 향상되는 특성을 가진다. IBM은 모든 모델에 Apache 2.0 라이선스를 적용하여 기업이나 개인이 소스 코드를 수정하거나 상업적 서비스에 통합해 배포하는 데 제약을 없앴다. 이번 4.2 버전은 기존의 지시 이행 능력을 넘어 논리적 단계를 밟아 결론에 도달하는 명시적 추론 능력을 핵심 설계 목표로 삼았다.

15조 토큰 학습과 512K 컨텍스트 확장 전략

Granite 팀이 약 15조 개의 토큰을 사용하여 모델을 처음부터 사전 학습(pre-training)했으며, 이를 위해 총 5단계의 학습 전략을 적용했다. 1단계와 2단계에서는 웹 규모의 방대한 데이터를 통해 기초 지식을 습득하고, 3단계와 4단계에서는 데이터의 질을 점진적으로 높이는 고품질 데이터 어닐링(annealing)을 수행했다. 마지막 5단계에서는 장문 맥락 학습을 도입하여 컨텍스트 창을 최대 512K 토큰까지 확장함으로써 대규모 문서 처리 능력을 확보했다. 각 단계는 서로 다른 데이터 혼합 비율과 학습률 스케줄을 가지며, 학습 비중을 일반 웹 데이터에서 정제된 고품질 소스로 점진적으로 이동시켰다.

데이터 처리 파이프라인은 학습 데이터의 배치 순서가 성능에 영향을 주는 순서 효과를 제거하기 위해 전체 코퍼스를 전역 셔플링(global shuffling)했다. 셔플링을 거친 코퍼스는 대용량 데이터의 효율적 읽기/쓰기를 위해 설계된 열 지향 저장 형식인 `.parquet` 샤드로 분할되었다. 분할된 샤드는 모델의 토크나이저와 채팅 템플릿을 거쳐 토큰화된 뒤 대규모 분산 학습 환경에 투입되었다. 이러한 공정은 특정 도메인의 데이터가 편중되는 현상을 방지하고 모델이 다양한 지식 영역을 균형 있게 학습하도록 보장한다.

720만 개 샘플 기반의 SFT 데이터셋과 품질 관리

IBM이 총 720만 개의 샘플로 구성된 SFT(지도 미세 조정) 데이터셋을 구축하여 베이스 모델을 지시 이행과 도구 사용이 가능한 어시스턴트로 전환했다. 전체 데이터 규모는 약 100B 토큰이며, 이 중 실제 학습에 사용되는 trainable 토큰은 65B 수준으로 설정했다. 데이터셋은 에이전트 데이터 31.6%와 비에이전트 데이터 68.4%로 구성했으며, 에이전트 데이터 내부에서는 소프트웨어 공학(SWE) 비중이 69%로 가장 높고 도구 호출이 12.1%, 터미널 사용이 8.0%를 차지한다. 비에이전트 데이터는 지시 이행과 코딩이 각각 18.8%, 수학 14.6%, 다국어 7.0%, 과학 5.4% 순으로 배치하여 도메인별 전문성을 높였다.

데이터 품질을 확보하기 위해 GPT-OSS-120B와 Gemma 4를 LLM 기반 판별자(Judge)로 설정하여 모든 샘플을 전수 검수했다. 판별자는 샘플별 품질 점수를 산출하여 기준 미달 샘플을 제거했으며, 특히 환각 정보가 포함되었거나 정의되지 않은 함수를 호출하는 잘못된 도구 상호작용 샘플을 엄격하게 걸러냈다. 여기에 데이터셋별 휴리스틱(Heuristic) 규칙을 추가 적용하여 노이즈를 최소화했다. 최종 단계에서는 SHA-256 해시 알고리즘을 이용해 도구와 메시지 필드 조합을 기반으로 로컬 및 글로벌 디듀플리케이션(Deduplication)을 수행함으로써 중복 학습으로 인한 과적합을 방지했다.

비동기 GRPO 기반의 다단계 강화학습 파이프라인

Granite 팀이 비동기 GRPO(Group Relative Policy Optimization)를 적용한 다단계 강화학습 파이프라인을 구현하여 모델의 추론 및 도구 조작 능력을 고도화했다. 학습 구조는 수학, 코드, 과학, 지시 이행, 도구 사용, 구조화 출력 순으로 진행되는 기초 RL 단계를 모든 모델이 공통으로 거치도록 설계했다. 이후 8B와 30B 모델에 한해 소프트웨어 공학(SWE), 터미널 사용, 웹 검색으로 이어지는 전용 에이전트 RL 블록을 추가로 수행하여 실제 샌드박스 환경에서의 자율 동작 능력을 학습시켰다. 각 단계는 독립적인 RL 실행 단위로 작동하며, 이전 단계의 체크포인트에서 학습을 시작하는 웜스타트(warm-start) 방식을 통해 효율성을 극대화했다.

비동기 루프 구조를 통해 생성 워커(Worker)와 트레이너(Trainer)가 상호 대기 없이 작동하도록 구현했다. 생성 워커 풀이 응답을 샘플링해 공유 버퍼에 저장하면, 트레이너가 배치 분량이 쌓이는 즉시 옵티마이저 스텝을 수행하고 업데이트된 파라미터를 워커에게 스트리밍한다. 워커는 파라미터 업데이트 도중에도 기존 KV 캐시를 재사용하여 추론 속도를 유지하며, 하나의 궤적이 인접한 두 정책 버전으로 섞여 생성되는 것을 허용했다. 다만 워커가 트레이너보다 한 번의 업데이트 이상 뒤처지지 않도록 제한하여 샘플이 현재 정책에서 너무 멀어지는 오프폴리시(off-policy) 현상을 방지하고 학습 안정성을 확보했다.

vLLM·SGLang 연동과 모델 선택 기준

IBM이 vLLM과 SGLang을 통해 OpenAI 호환 엔드포인트를 지원함으로써 기존 에이전트 프레임워크와의 통합 편의성을 높였다. 모델은 OpenAI function-calling 포맷으로 도구 호출을 출력하므로, 개발자가 API 응답을 파싱하기 위해 작성하던 별도의 접착 코드 없이 에이전틱 하네스(Agentic Harness)에 즉시 연결 가능하다. SGLang의 경우 공식 쿡북의 레시피를 통해 서빙 환경을 구축함으로써 인프라 설정 시간을 단축할 수 있다.

30B 모델은 에이전트 코딩 성능을 극대화하기 위해 3.0e-6의 낮은 학습률로 약 1에포크의 추가 SFT를 수행했다. 이 단계에서는 에이전틱 데이터와 SWE, 코딩 관련 데이터를 업샘플링하여 학습 분포 내 기여도를 높였으며, 기존 지식 보존을 위해 전체 혼합 데이터의 16%를 리플레이 데이터로 구성했다. 이는 복잡한 소프트웨어 개발 태스크에서 일관된 코딩 능력과 정교한 도구 사용 능력을 확보하기 위한 장치다.

실무적인 모델 선택 기준은 수행하려는 작업의 자율성 수준에 따라 갈린다. 단순 챗봇이나 지시 이행 작업에는 3B 모델을 선택하는 것이 효율적이며, 터미널 제어와 웹 검색이 포함된 자율 에이전트 구축에는 에이전틱 RL 블록을 통과한 8B 이상의 모델을 선택해야 한다.