오픈소스 모델을 강화학습(RL)으로 미세 조정하는 방식이 기업

프런티어 모델보다 실수를 30% 줄이고 GPT-5.5와 Claude Opus 4.8의 성능을 추월하는 특화 모델이 실제 비즈니스 현장에서 작동하고 있다. 이는 범용 API에 의존하는 대신 특정 업무 워크플로우에 맞춘 오픈소스 모델의 강화학습(RL, Reinforcement Learning) 튜닝을 선택한 기업들이 거둔 성과다.

Bridgewater(브릿지워터, 글로벌 헤지펀드)의 모델은 프런티어 모델보다 실수를 약 30% 줄였다. Harvey(하비, 법률 AI 기업)의 법률 에이전트는 자체 평가 기준에서 GPT-5.5와 Claude Opus 4.8을 능가했다. Intercom(인터콤, 고객 커뮤니케이션 플랫폼)의 Fin Apex(핀 에이펙스, AI 고객지원 봇)는 더 낮은 비용으로 더 많은 지원 문제를 해결한다.

기업이 보유한 고유 데이터와 도구, 내부 프로세스를 모델에 직접 학습시켜 벤더 API가 제공하지 못하는 성능을 구현하는 방식이 핵심이다. 오픈소스 모델을 강화학습으로 미세 조정하면 비용을 획기적으로 낮추는 동시에 특정 업무에 최적화된 지능을 기업이 직접 소유한다. 이 전략은 범용 프런티어 모델의 성능 상한선을 돌파하는 실질적인 배포 경로가 된다.

기술이 실제로 작동하는 방식

카탈로그 리뷰 작업에서 9B 오픈소스 모델이 프런티어 모델의 최고 점수인 76.9%보다 13.5% 높은 상대 성능을 기록했다. GRPO(Group Relative Policy Optimization, 그룹 내 상대적 보상을 통해 정책을 최적화하는 강화학습 알고리즘)를 적용해 모델을 포스트 트레이닝한 결과다. 학습 전 베이스 모델이 기록한 64.2%의 점수와 비교하면 36% 향상된 수치다. 특정 작업에 최적화된 소형 모델이 범용 거대 모델의 성능 한계를 넘어섰다.

특화 모델 도입 시 운영 비용은 프런티어 모델 대비 최대 98%까지 절감한다. 카탈로그 리뷰 1,000건당 비용을 산출하면 프런티어 모델은 34달러가 소요되나 특화 모델은 0.50달러에 불과하다. 이는 시장에서 가장 저렴한 프런티어 모델 옵션과 비교해도 40배 더 낮은 비용 구조다. 하루 4,000만 건의 의사결정을 내리는 규모의 서비스에서 연간 비용은 5억 달러에서 700만 달러로 줄어든다. 소형 모델의 특화 학습이 실제 운영 비용의 극적인 감소를 구현한다.

투자금과 참여 투자자가 보여주는 신호

2022년 11월부터 2025년 12월 사이 AI 투자 상위 25% 기업의 매출은 두 배 이상 증가했다. 반면 AI 지출이 전혀 없는 기업의 매출 증가율은 같은 기간 15%에 그치며 극명한 대조를 보였다. 기업 지출 관리 플랫폼 Ramp(램프)의 데이터는 AI에 투입한 자본의 규모가 매출 성장이라는 실질적 결과와 직결됨을 입증한다. 투자의 양적 차이가 기업의 외형 성장 속도를 가르는 결정적 변수로 작용한다.

워크플로우 재설계는 EBIT(이자 및 세전 이익)에 가장 강력한 영향을 미치는 핵심 요소다. McKinsey(맥킨지)의 2025년 설문조사 결과, 워크플로우 재설계 여부가 EBIT 영향력과 가장 높은 상관관계를 나타냈다. 하지만 실제 업무 흐름을 재설계한 조직은 전체의 21%에 불과했다. AI 모델을 기존 업무에 단순 배치하는 방식이 아니라, 모델의 특성에 맞춰 업무 공정을 다시 짜는 조직만이 실질적인 이익 개선을 달성한다.

프런티어 모델로 프로토타이핑을 수행한 후, 자체 데이터(Traces) 수집과 오픈 모델 RL(강화학습) 튜닝을 거쳐 전문화와 범용화 영역을 분리 운영하는 하이브리드 도입 경로를 실행한다.