디지털 파편화가 치르는 비용

지식 노동자라면 누구나 공감할 상황이 있습니다. 프로젝트 업데이트 하나를 찾기 위해 슬랙(Slack)에서 시작해 지라(Jira)를 거쳐 컨플루언스(Confluence)까지 뒤지지만, 결국 서로 다른 버전의 문서 세 개를 발견하고 멘붕에 빠지는 일이죠. 조직이 커질수록 이런 파편화는 생산성을 갉아먹는 '세금'처럼 작용합니다.

대부분의 기업은 기존 데이터 위에 챗봇 하나를 얹는 식으로 이 문제를 풀려 했습니다. 하지만 2019년 설립된 글린(Glean)은 접근법부터 달랐거든요. 이들은 기업 정보를 단순한 파일 목록이 아니라 관계의 네트워크로 처리하는 '컨텍스트 그래프(Context Graph)' 구축에 집중했습니다. 덕분에 글린은 단순한 검색창을 넘어 기업의 필수 인프라로 자리 잡게 되었죠.

토큰 낭비와 RAG의 역설

많은 기업이 RAG(검색 증강 생성)를 도입합니다. AI가 데이터베이스에서 특정 문서를 찾아 정확한 답을 내놓게 하는 기술이죠. 하지만 기본 RAG에는 치명적인 약점이 있습니다. 이 문서의 주인이 누구인지, 왜 중요한지 같은 '조직적 맥락'이 빠져 있어 정밀도가 떨어지거든요.

비용 문제도 심각합니다. LLM은 텍스트 조각인 '토큰' 단위로 비용을 청구하는데, 파편화된 시스템에 AI를 그대로 풀어놓으면 관련 답을 찾기 위해 불필요하게 많은 토큰을 소모하게 됩니다.

글린의 CEO 아르빈드 제인(Arvind Jain)은 이 비효율성이 결정적인 병목 구간이라고 지적합니다. "AI를 글린에 연결하면 업무에 필요한 정보만 정확히 제공하므로, 시스템에 직접 AI를 투입했을 때보다 토큰 소모량을 훨씬 줄일 수 있다"는 설명이죠.

맥락이 실질적인 이득이 되는 순간

맥락 인지 레이어가 실제로 어떤 이득을 주느냐고요? 상황별로 살펴보면 명확합니다.

먼저 AI 예산을 최적화해야 하는 CFO라면, 글린은 LLM 호출 횟수와 전체 토큰 소비량을 줄여주는 필터 역할을 합니다. AI 도입 비용을 직접적으로 낮춰주는 셈이죠. 데이터 분석가라면 스노우플레이크(Snowflake) 연동을 통해 복잡한 SQL 쿼리를 짤 필요 없이, 자연어로 데이터를 조회하는 '구조화 쿼리' 에이전트를 활용해 인사이트 도출 시간을 단축할 수 있습니다.

특히 5개 이상의 내부 툴을 동시에 사용하는 대규모 조직에서는 글린이 단일 발견 레이어(Discovery Layer)가 됩니다. 여기저기 흩어진 사일로를 통합해 내부 탐색 시간을 줄이고 운영 속도를 높이는 구조입니다.

경쟁자가 넘볼 수 없는 '맥락 그래프'라는 해자

글린의 진짜 경쟁력은 어떤 LLM을 쓰느냐가 아니라, 어떤 컨텍스트 그래프를 유지하느냐에 있습니다. 이 그래프는 사람, 문서, 그리고 무엇보다 '권한' 사이의 관계를 매핑합니다. 기업 환경에서 직원이 권한이 있는 정보만 보게 만드는 것은 AI 구현에서 가장 까다로운 영역이거든요.

이런 유용성은 사용자 지표로 증명됩니다. 글린의 주간 활성 사용자 대비 월간 활성 사용자 비율(wDAU/wMAU)은 45%에 달합니다. 일반적인 SaaS 벤치마크보다 두 배 이상 높은 수치로, 가끔 쓰는 도구가 아니라 매일 쓰는 습관이 되었다는 뜻이죠. 또한 고객사의 85%가 5개 이상의 부서에서 이 플랫폼을 사용하고 있는데, 이는 특정 부서의 니즈가 아니라 조직 전체의 시스템적 문제를 해결하고 있음을 보여줍니다.

하이퍼 그로스의 메커니즘

제품-시장 적합성(PMF)을 찾은 글린의 성장세는 무섭습니다. 연간 반복 매출(ARR)을 단 15개월 만에 1억 달러에서 3억 달러로 끌어올렸습니다. 일부 분석가들은 이 수치에 구독료 외에 사용량 기반 매출이 포함되었다고 보지만, 성장 속도 자체는 부정할 수 없는 사실이죠.

자본 시장의 반응도 뜨겁습니다. 세쿼이아(Sequoia)가 주도한 투자로 유니콘 기업이 된 이후, 시리즈 E에서 2억 6천만 달러를 유치했고 지난 6월 시리즈 F에서 1억 5천만 달러를 추가로 확보하며 기업 가치는 72억 달러(약 9.6조 원)까지 뛰었습니다.

이는 단순한 소프트웨어가 아닌 '인프라'에 매겨지는 프리미엄입니다. 브래드 스콧(Brad Scott), 아마르 말레티라(Amar Maletira) 같은 경영진과 초기 멤버 토니 젠틸코어(Tony Gentilcore)의 리드 아래, 글린은 다른 AI 툴들을 쓸모 있게 만드는 하부 레이어로 포지셔닝했습니다. 아르빈드 제인이 "초기 4~5년 동안은 경쟁자가 없었다"고 회상한 이유이기도 합니다.

AI 기업의 새로운 설계도

이제 글린은 정보 검색을 넘어 '태스크 실행'으로 나아가고 있습니다. 글린 에이전트(Glean Agents) 플랫폼을 확장해 정보를 찾는 도구에서 일을 처리하는 도구로 진화 중이죠. 지난 1년간에만 250개의 새로운 기능을 출시했을 정도로 속도가 빠릅니다.

결국 기업용 AI 전쟁의 승자는 가장 강력한 모델을 가진 회사가 아니라, 맥락을 가장 잘 오케스트레이션하는 회사가 될 가능성이 높습니다. 모델이 엔진이라면, 컨텍스트 그래프는 지도이자 핸들이기 때문입니다.

그렇다면 우리 회사는 어떤 선택을 해야 할까요?

- 데이터 구조가 단순하고 평면적이라면? 기본적인 RAG 구현만으로도 충분합니다.

- 데이터가 심하게 파편화되어 있고 권한 체계가 복잡하다면? 전용 컨텍스트 레이어를 도입하는 것이 AI를 운영 가능하게 하고 비용을 지속 가능하게 만드는 유일한 길입니다.