ZDR의 한계와 Private Safety Processing의 도입 배경

OpenAI가 개별 요청 단위의 검사를 넘어 다중 상호작용 패턴을 감지하는 Private Safety Processing을 공개했다. 기존 ZDR(Zero Data Retention) 환경은 요청 처리 직후 프롬프트와 응답을 즉시 삭제하여 데이터 무저장 원칙을 준수하지만, 단일 요청만 검사하는 구조적 특성상 여러 번에 걸쳐 시도되는 정교한 공격이나 에이전트의 오작동을 감지하기 어려웠다. 이러한 보안 공백은 모델이 더 길고 복잡한 작업을 수행함에 따라 다중 상호작용을 통해 드러나는 심각한 리스크를 식별하지 못하는 결과로 이어졌다.

Private Safety Processing은 OpenAI 직원이 원본 콘텐츠에 접근하지 않고도 연관된 상호작용 간의 패턴을 식별하도록 설계된 시스템이다. 이 시스템은 ZDR 및 기타 배포 환경에서 이미 운용 중인 자동화 보호 기능을 다중 상호작용 범위로 확장하여 적용한다. 자동화 시스템이 데이터 원본에 직접 접근하지 않고 위험 패턴을 찾아내도록 설계함으로써, 기업 고객은 데이터 무저장 원칙을 유지하면서도 고도화된 보안 모니터링 수준을 확보할 수 있다.

OpenAI는 다양한 산업군과 지역, 기업 규모의 고객사들과 협력하여 이 시스템의 세부 설계를 진행했다. OpenAI는 단일 AI 랩의 노력만으로는 새롭게 등장하는 리스크를 모두 해결할 수 없다는 판단하에, 실제 현장의 고객 및 파트너와 협업하여 실질적인 안전장치를 구축하는 방식을 택했다. OpenAI는 9월 중으로 Private Safety Processing의 순차적 배포(Rollout)를 시작하고, 구체적인 구현 방식을 명시한 기술 백서(Technical White Paper)를 공개할 예정이다.

데이터 주권 보장을 위한 암호화 및 신호 탐지 메커니즘

고객은 데이터 저장 위치를 직접 제어하는 자체 인프라와 OpenAI가 제공하는 인프라 중 하나를 선택하여 시스템을 운용한다. OpenAI 제공 저장소를 선택하는 경우, OpenAI는 고객 제어 키(Customer-controlled keys)를 통해 모든 콘텐츠를 암호화하여 저장한다. OpenAI 직원은 해당 암호화 키의 복사본을 보유하지 않으므로, 저장소 내의 원본 콘텐츠에 접근할 수 있는 물리적·기술적 경로가 원천적으로 차단된다.

자동화 시스템은 원본 프롬프트나 응답 내용을 OpenAI 직원에게 노출하지 않은 상태에서 잠재적인 오용 패턴을 식별한다. 시스템은 분석 결과로 도출된 제한된 안전 신호(limited safety signals)만을 OpenAI 측에 전달하며, 이 신호는 구체적인 대화 내용 대신 정책 위반 가능성만을 알리는 최소한의 지표로 구성된다. 데이터의 실체는 암호화된 상태로 유지하고 위험 징후라는 결과값만 추출함으로써 프라이버시 침해 가능성을 최소화했다.

전달된 안전 신호에 대한 세부 조사와 최종 집행 결정은 고객이 운영하는 자체 시스템 내부에서 수행한다. 고객은 시스템이 보낸 알림을 바탕으로 내부 보안 정책에 따라 위반 여부를 검토하며, 필요하다고 판단하는 특정 사례에 대해서만 선택적으로 OpenAI와 정보를 공유한다. OpenAI는 고객의 명시적인 공유 없이는 어떤 데이터도 열람할 수 없으며, 모든 사후 처리 프로세스의 주도권은 고객이 행사하는 구조다.

이 구조는 AI 제공사가 민감한 콘텐츠를 직접 보유하고 검토해야 했던 기존 방식과 달리, 제공사가 데이터를 보유하지 않고도 안전성을 확보할 수 있음을 증명한다. OpenAI는 데이터 제어권을 고객에게 완전히 부여하면서도 오용 탐지라는 기능적 목적을 동시에 달성하는 설계를 구현했다.

다중 상호작용 분석을 통한 고도화된 위협 탐지 범위

Private Safety Processing은 단일 상호작용으로는 식별되지 않는 가드레일 반복 탐색(probing)과 계정 간 협업을 통한 위협 은폐 행위를 주요 탐지 대상으로 삼는다. 공격자가 여러 계정을 이용해 위협을 분산시키거나 일상적인 연구 활동으로 위장하는 경우, 시스템은 다수의 상호작용을 연결해 분석함으로써 단순 필터링이 놓치는 정교한 공격 패턴을 식별한다. 이는 개별 요청의 무해함 뒤에 숨겨진 악의적 의도를 파악하기 위한 조치다.

에이전트가 복잡한 작업을 수행하는 과정에서 발생하는 정렬 불량(misalignment) 상태도 탐지 범위에 포함된다. 예를 들어 사용자가 명시적으로 중단 명령을 내렸음에도 불구하고 AI 시스템이 이를 무시하고 작업을 계속 수행하는 사례가 이에 해당한다. 시스템은 작업의 흐름 전체를 추적해 사용자 의도와의 괴리를 잡아내어, 권한 남용이나 데이터 오염으로 확산될 위험을 사전에 방지한다.

이러한 탐지 범위 확대는 금융 기록, 의료 데이터, 기밀 사업 계획 등 민감 정보 보호와 엄격한 규제 준수가 필요한 기업 환경의 요구를 반영한 결과다. 특히 규제 산업의 고객들은 AI가 정해진 권한 범위 내에서만 동작하는지 확인해야 하며, AI의 오작동으로 인한 잘못된 의사결정이나 기록 수정 자체를 핵심 리스크로 관리해야 한다.

Glean의 최고정보보호책임자(CISO)인 Sunil Agrawal은 데이터 제어권이 엔터프라이즈 AI 도입의 핵심 조건임을 강조했다. AI 시스템의 능력이 고도화될수록 보안 사고 발생 시 이를 어떻게 식별하고 통제할 수 있는지가 실제 도입 여부를 결정하는 결정적 기준이 된다는 분석이다.

법적 예외 조항과 엔터프라이즈 보안 도입 판단 기준

OpenAI는 기존 ZDR 정책에서 유지해 온 아동 성착취물(Child Sexual Abuse Material, CSAM) 보고 의무를 이번 시스템에서도 예외 조항으로 계속 적용한다. OpenAI는 법적 요구사항에 따라 아동 성착취물로 의심되는 콘텐츠를 식별하고 이를 관련 기관에 보고해야 할 의무가 있다. 이에 따라 자동화 시스템이 CSAM으로 플래그를 지정한 이미지는 수동 검토와 법적 보고 절차를 위해 서버에 저장되며, 이는 ZDR 배포 환경에서도 동일하게 작동한다.

CSAM 탐지는 기업의 내부 보안 정책이나 데이터 무저장 약속보다 우선하는 법적 강제 사항이다. OpenAI를 포함한 프론티어 모델 제공사들은 법적 보고 의무가 있는 특정 콘텐츠에 대해서는 ZDR 원칙보다 법적 준거성을 우선하여 데이터를 유지하는 정책을 취한다. 따라서 ZDR 환경을 구축하더라도 법적 보고 대상인 콘텐츠는 별도의 유지 경로를 거쳐 보관된다는 점을 인지해야 한다.

OpenAI는 9월 중으로 Private Safety Processing의 롤아웃과 함께 기술 백서(Technical White Paper)를 공유할 계획이다. 이 백서에는 시스템의 기술적 명세와 운영 세부 사항이 포함되며, 기존 약속의 유지 방안과 고객이 준비해야 할 사항들이 안내될 예정이다. 고객은 이를 통해 자사 보안 규정과 OpenAI의 안전 모니터링 체계 간의 정합성을 검토할 수 있다.

보안 규정상 데이터 저장이 절대 불가능한 환경에서 고도화된 안전 모니터링 도입을 검토하는 보안 책임자는 9월 출시 예정인 기술 백서의 세부 명세와 CSAM 예외 유지 조건을 확인하여 도입 여부를 결정해야 한다.