SAGE가 해결하려는 승인 병목 현상과 시장 현황

루브릭은 인간의 승인 버튼 클릭을 자연어 정책 기반의 실시간 판별 체계로 대체하는 SAGE(Semantic AI Governance Engine, 시맨틱 AI 거버넌스 엔진)를 도입했다. SAGE는 루브릭 에이전트 클라우드(Rubrik Agent Cloud) 내부에 구축된 중재 계층으로, 자연어로 작성된 정책에 따라 에이전트 행동의 허용 여부를 결정한다. 이를 통해 기존의 'Human-in-the-loop(인간 개입)' 방식을 'AI-in-the-loop(AI 개입)'로 대체해 승인 병목을 제거했다.

벤처비트 펄스(Pulse) 연구에 따르면 기업의 66%가 인간의 검토가 없는 프로덕션 배포를 이미 허용하거나 환경을 구축 중이지만, 자동화된 평가 시스템을 완전히 신뢰하는 기업은 5%에 불과하다. 자동화 배포를 추진하는 기업 대다수가 정작 평가 도구의 신뢰성 문제로 어려움을 겪고 있는 셈이다.

SLM과 PEFT 기반의 실시간 판별 메커니즘

루브릭은 승인 프롬프트를 제거한 'YOLO mode'를 도입해 에이전트의 자율성을 높였다. 사람이 승인 버튼을 누르는 수동 절차 대신, 두 번째 AI가 실시간으로 정책 위반 여부를 판단해 행동을 결정한다.

SAGE는 프런티어 LLM(거대언어모델)보다 비용과 지연 시간이 10배 낮은 소형언어모델(SLM)을 사용한다. 이는 매개변수 효율적 미세 조정(PEFT, 모델의 일부 파라미터만 업데이트해 학습 효율을 높이는 기법)을 통해 구현되었으며, SAGE는 PEFT 기반으로 구축된 여러 '판사(judges)'들의 집합체로 작동한다.

루브릭은 조직 전체가 공유하는 맥락을 학습한 기본 모델을 먼저 설정한 뒤, 이를 바탕으로 특정 작업에 최적화된 변형 모델인 판사들을 생성해 배치한다. 이 판사들은 도구 사용 시 발생하는 환각 감시나 개인식별정보(PII) 억제 같은 특정 과업을 전담 수행한다.

거버넌스 체계의 확장과 '치명적 삼각지대' 검증

SAGE의 기술적 구현은 단순한 효율화를 넘어 AI 거버넌스의 전략적 변화를 목표로 한다. Rubrik Zero Labs가 1,600명 이상의 IT 및 보안 리더를 대상으로 조사한 'The State of the Agent' 보고서에 따르면, 응답자의 약 80%가 에이전트 승인에 쓰는 시간이 에이전트가 절약한 시간보다 많다고 답했다. 개발자들은 이러한 반복적 승인 절차를 실질적 효과 없는 '보안 연극(security theater)'이라고 비판한다.

이러한 거버넌스 역량 강화를 위해 루브릭은 2025년 6월 생성형 AI 인프라 스타트업 Predibase(프레디베이스)를 인수했다. Predibase의 공동 창업자이자 CEO였던 Dev Rishi(데브 리시)가 인수 후 루브릭의 AI 부문 GM(General Manager)으로 합류했다.

루브릭은 전통적인 IAM(Identity and Access Management, 계정 및 권한 관리) 방식으로는 에이전트의 권한 조합으로 발생하는 데이터 유출을 막을 수 없다고 분석한다. 이에 따라 내부 데이터 접근 권한, 외부 콘텐츠 입력 가능 여부, 외부 전송 채널 보유 여부를 동시에 확인하는 '치명적 삼각지대(Lethal Trifecta)' 체크리스트를 통해 실행 의도를 검증한다.

루브릭의 SAGE는 AI 에이전트의 자율성과 보안이라는 상충하는 가치를 SLM 기반의 실시간 판결 체계로 해결하려는 시도다. '승인 버튼'이라는 물리적 절차를 '정책 기반 판별'이라는 논리적 절차로 전환함으로써, 기업이 AI 에이전트를 실제 프로덕션 환경에 안심하고 배치할 수 있는 신뢰 기반을 마련하고 있다.