대학원생 Y씨는 기업 내부 데이터에 직접 접근해 업무를 처리하는 자율형 AI 에이전트를 개발하며, 모델이 잘못된 판단을 내릴 경우 발생할 수 있는 시스템 오류와 데이터 유출 위험을 매일 고민한다. 복잡한 기업 환경에서 AI가 스스로 권한을 행사하도록 허용하는 것은 단순한 기술적 구현을 넘어, 엄격한 보안 정책과 감사 체계가 뒷받침되어야 하는 영역이다. 최근 기업용 소프트웨어 시장에서 AI 에이전트의 신뢰성을 확보하기 위한 인프라 수준의 통제 기술이 중요하게 다뤄지고 있다.

SAP 비즈니스 AI 플랫폼에 도입된 NVIDIA OpenShell

NVIDIA와 SAP는 SAP Sapphire 행사에서 기업용 AI 에이전트의 보안과 거버넌스를 강화하기 위한 협력 계획을 발표했다. 이번 협력의 핵심은 NVIDIA OpenShell(AI 에이전트를 안전하게 개발하고 배포하기 위한 오픈소스 런타임)을 SAP 비즈니스 AI 플랫폼에 내장하는 것이다. SAP 엔지니어들은 NVIDIA와 함께 OpenShell의 코드베이스를 공동 설계하며, 기업 환경에 필요한 런타임 강화, 정책 모델링, 기업용 ID 통합, 감사 및 거버넌스 기능을 개발하고 있다.

OpenShell은 에이전트가 실행되는 환경을 격리하고 파일 시스템 및 네트워크 계층에서 정책을 강제한다. 이는 에이전트의 논리적 오류가 발생했을 때 시스템 전체로 피해가 확산되는 것을 방지하는 인프라 수준의 격리 장치다. SAP는 자사의 에이전트 구축 환경인 Joule Studio(기업용 AI 에이전트를 처음부터 끝까지 관리하는 개발 환경)에서 생성되는 모든 커스텀 에이전트에 대해 이 보안 계층을 적용할 방침이다.

자율 에이전트 배포를 위한 NemoClaw 참조 설계

예전에는 기업용 AI를 도입할 때 보안과 권한 관리를 위해 개발자가 직접 보안 프레임워크를 밑바닥부터 설계해야 했다. 이제는 NVIDIA NemoClaw(자율 에이전트 개발 및 배포를 위한 참조 설계 청사진)가 Joule Studio에 직접 통합되어 제공된다. 이를 통해 개발팀은 초기 빌드 단계부터 프로덕션 배포까지 구조화된 경로를 확보할 수 있다. 기업은 데이터 접근 권한과 프로세스 제어 범위를 명확히 설정함으로써, AI 에이전트가 허용된 경계 내에서만 작동하도록 통제할 수 있다.

NVIDIA는 자사 또한 SAP의 재무, 공급망, 물류 시스템을 사용하는 고객사로서 기업용 거버넌스가 현장에서 요구하는 수준을 정확히 파악하고 있다. 이러한 경험을 바탕으로 양사는 애플리케이션 계층의 보안만으로는 해결하기 어려운 에이전트의 신뢰성 문제를 인프라 수준에서 보완한다. 기업은 이제 재무, 조달, 제조 등 핵심 업무 시스템에 AI 에이전트를 투입할 때 필요한 데이터 경계와 역할 기반 접근 제어를 보다 안정적으로 구현할 수 있게 되었다.

기업용 AI 에이전트의 신뢰 방정식 변화

개발자가 바로 체감하는 변화는 AI 에이전트의 생산 환경 투입 속도다. 과거에는 에이전트가 시스템 기록에 접근하거나 애플리케이션 경계를 넘나드는 작업을 수행할 때마다 사람이 일일이 검토해야 했다. 그러나 이제는 정책 강제와 감사 추적 기능이 런타임에 내장됨으로써, 검토 과정 없이도 프로덕션 업무의 일부로 에이전트를 편입시킬 수 있는 기반이 마련되었다. 이는 AI 에이전트가 단순한 보조 도구를 넘어 실제 경제적 가치를 창출하는 자율적 주체로 전환되는 과정에서 필수적인 단계다.

기업용 데이터가 집중된 SAP 환경에서 AI 에이전트가 안전하게 작동할 수 있는 환경이 조성됨에 따라, 향후 기업의 AI 도입 전략은 모델의 성능 경쟁에서 보안과 거버넌스 중심의 신뢰성 경쟁으로 이동할 것으로 보인다.