투자금 유치와 GPU 기반 과금 체계
내 PC에서 AI 모델을 직접 돌려보려다 라이브러리 버전 충돌과 복잡한 환경 설정에 막혀 포기한 경험이 있을 것이다. 파이썬 버전을 맞추고 의존성 패키지를 하나하나 설치하는 과정에서 발생하는 오류를 해결하다 보면 정작 AI를 써보기도 전에 지치기 마련이다. 이런 진입장벽을 허물며 전 세계 개발자들의 선택을 받은 Ollama가 Theory Ventures 주도로 6,500만 달러 규모의 시리즈 B 투자를 유치했다.
이번 투자는 Theory Ventures가 주도했으며, 이전에는 Benchmark의 Peter Fenton이 이끌었던 1,500만 달러 규모의 시리즈 A 투자가 있었다. 이 두 번의 펀딩을 통해 Ollama는 지금까지 총 8,800만 달러의 투자금을 확보했다. 투자사들은 복잡한 설정을 제거한 단순한 실행 환경이 개발자들의 실질적인 요구사항이라고 판단했다.
개인 PC의 성능 한계를 넘어 더 크고 복잡한 모델을 구동하고 싶은 사용자를 위해 neocloud(클라우드 기반 AI 실행 환경) 서비스도 함께 제공한다. 무료 플랜부터 월 100달러까지 세분화된 구독 티어를 운영하며 사용자가 필요한 모델의 규모에 따라 적절한 환경을 선택할 수 있게 했다. 특히 대부분의 AI 서비스가 텍스트 조각 단위인 토큰 제한 방식을 쓰는 것과 달리, Ollama는 실제 GPU(그래픽 처리 장치)를 사용한 시간을 기준으로 사용량을 추적해 비용을 산정한다.
도커의 경험을 이식한 AI 모델 실행의 단순화
이러한 서비스 확장 기반에는 개발 환경의 복잡성을 획기적으로 줄인 기술적 접근이 있다. 2023년 출시된 Ollama는 오픈 웨이트(open-weight) AI 모델을 단 몇 분 만에 실행하게 돕는다. 오픈 웨이트는 모델의 내부 파라미터, 즉 AI의 지능을 결정하는 수치값들이 공개된 형태를 뜻한다. GitHub에서 176,000개의 별(stars)과 약 17,000개의 포크(forks)를 기록한 것은 설치 과정을 간소화한 도구에 대한 개발자들의 수요를 보여준다.
제프 모건(Jeff Morgan)과 마이클 치앙(Michael Chiang) 공동 창업자의 이력은 이 도구가 지향하는 방향을 명확히 보여준다. 이들은 과거 스타트업 카이테마틱(Kitematic)이 도커(Docker)에 인수된 후 도커 데스크톱(Docker Desktop) 구축에 참여했다. 도커는 소프트웨어를 실행하는 데 필요한 모든 환경을 하나로 묶어 어떤 컴퓨터에서든 똑같이 작동하게 만드는 도구다. Ollama는 AI 모델의 로컬 실행 과정을 추상화해, 사용자가 알 필요 없는 복잡한 내부 설정을 뒤로 숨기고 단순한 명령어로 구동하게 만든다. 이는 도커가 클라우드 인프라 배포 방식을 단순화해 개발 시간을 줄였던 역할을 AI 모델 실행 영역에서 재현한 것이다.
압도적 사용자 성장과 기업의 추론 비용 최적화
Ollama는 2023년 출시 이후 매월 890만 명 이상의 개발자가 사용하는 도구로 빠르게 자리 잡았다. 단 14명의 직원만으로 Fortune 500 기업의 85%가 도입하는 성장세를 기록하고 있다.
이런 성장의 배경에는 추론 비용, 즉 AI 모델을 사용할 때마다 지불하는 비용을 줄이려는 기업들의 요구가 있다. 많은 기업과 AI 애플리케이션 스타트업들이 비용 효율적인 오픈 웨이트 모델로 전환하고 있다. 일상적인 업무는 저렴한 오픈 모델로 처리하고, Anthropic 같은 폐쇄형 모델은 고도의 성능이 필요한 특정 상황에만 사용하는 전략을 취한다. 고비용 모델에 전적으로 의존하기보다 운영 비용을 낮추는 실용적인 구조를 구축하는 것이 기업의 현실적인 대응책이 됐다.
내 PC에서 AI 모델을 직접 돌리려다 복잡한 설정과 라이브러리 충돌 때문에 포기했던 경험이 있을 것이다. Ollama는 앱 배포 환경을 단순화한 도커처럼 모델 실행 과정을 단순하게 만들어 누구나 몇 분 만에 구동하게 하며 월 890만 명의 사용자를 확보했다. 이제는 고비용의 폐쇄형 모델 대신 오픈 모델을 로컬이나 전용 클라우드에서 운영하는 비용 효율적인 아키텍처를 고민해야 한다. 본문에서 살펴본 판단 기준을 바탕으로 내 서비스에 맞는 최적의 운영 구조를 결정할 때다.
