기업들은 비용 절감과 통제권 확보를 위해 오픈

자체 하드웨어에서 미세 조정(fine-tune)이 가능한 오픈 웨이트(open-weight) 모델 도입이 기업들의 비용 절감과 통제권 확보 수단으로 확산하고 있다. 특정 모델 제공자에 종속되지 않으려는 움직임은 모델에 묶이지 않는 코딩 에이전트와 여러 모델을 동시에 운용하는 관리 체계의 필요성을 증대시킨다. 기업은 이를 통해 특정 벤더의 기술적 제약에서 벗어나 운영 유연성을 확보한다.

오픈 웨이트 모델은 기반 코드가 공개되어 있어 기업이 내부 인프라에서 직접 모델을 구동하고 최적화할 수 있다. 외부 API에 전적으로 의존하지 않고 자체 하드웨어에서 모델을 돌리는 방식은 운영 비용을 낮추는 직접적인 경로가 된다. 특정 제공자의 업데이트나 가격 정책 변경에 영향을 받지 않고 독자적인 모델 성능을 유지하며 제어권을 가져가려는 선택이다.

Satya Nadella는 데이터 공유에 따른 위험성이 기업에만 적용되는 제약이라고 분석했다. 일반 소비자가 데이터를 제공하는 행위는 무료 서비스를 이용하기 위해 지불하는 비용의 성격을 띤다. 이는 기존 광고 기반 비즈니스 모델이 작동하는 방식과 동일하며, 소비자에게는 서비스 이용 가치와 데이터 제공 사이의 단순한 가치 교환으로 작동한다. 개인의 데이터 공유는 서비스 접근권을 얻기 위한 대가라는 관점이다.

기업은 자체 가중치(weights)나 오픈 모델을 학습시키기

모델 사용 과정에서 발생하는 모든 메타데이터를 기업이 직접 보유하면 자체 가중치나 오픈 모델을 학습시킬 수 있다. 가중치(weights)는 모델이 학습을 통해 최적화한 매개변수 값이다. Satya Nadella는 모델을 사용할 때마다 그 주변의 모든 메타데이터를 기업이 유지하는 구조를 제안했다. 기업은 이렇게 확보한 메타데이터를 학습 데이터로 활용해 독자적인 가중치를 생성하거나 자체적인 오픈 모델을 구축하는 경로를 확보한다. 외부 모델 사용 경험이 기업의 데이터 자산으로 축적되는 구조다.

AI 모델과 하네스(harness), 컨텍스트, 메모리를 분리해 운영하면 특정 모델 제공자에 대한 종속성을 낮춘다. 하네스는 모델을 구동하고 제어하는 코딩 도구를 뜻한다. Anthropic의 Claude Code나 OpenAI의 ChatGPT Codex 같은 내장 코딩 도구에 의존하지 않고 이를 모델과 분리하는 방식이다. 모델과 하네스, 그리고 컨텍스트와 메모리를 각각 독립적으로 운영하면 특정 모델이 서비스 종료 등으로 사라지는 상황에서도 기업이 통제권을 유지한다. 기업은 각 모델이 가진 강점에 맞춰 여러 모델을 선택적으로 사용할 수 있는 유연성을 확보한다.

특정 독점 AI 랩에 전적으로 의존하는 기업은 결국 생존하지

데이터와 프롬프트를 AI 모델 제공자에게 과도하게 공유하는 행위는 기업의 생존을 위협하는 리스크가 된다. 마이크로소프트(Microsoft) CEO 사티아 나델라(Satya Nadella)는 CNN의 “Fareed Zakaria GPS” 인터뷰에서 기업이 모델 제공자에게 넘기는 데이터와 프롬프트 등 모든 정보에 대해 경계심을 가져야 한다고 강조했다. 특정 독점 AI 랩에 전적으로 의존하는 기업은 결국 생존하지 못할 것이라는 예측이다.

자체 모델이나 AI 게이트웨이(AI gateways, 프롬프트와 모델을 분리하는 인프라 계층) 없이 모델 제공자에게 의존하는 것은 사고 과정을 외주화하는 것과 같다. 인프라 계층이 부재한 상태에서 모델 제공자에게 모든 것을 맡기면 AI 랩이 기업의 내부 정보를 바탕으로 유사한 경쟁 서비스를 제공하더라도 이를 제어할 수단이 없다. 나델라는 이러한 통제권을 확보하지 못한 기업은 더 이상 기업으로서 존재하기 어려울 것이라고 주장했다.

기업은 AI 게이트웨이를 도입해 프롬프트와 모델을 분리하고, 코딩 도구와 특정 모델 간의 결합도를 낮춰 모델 교체 가능성을 확보해야 한다.