facts

일부 고객을 대상으로 프리뷰가 시작된 '프라이빗 세이프티 프로세싱(Private Safety Processing)'은 고객 데이터를 전혀 저장하지 않으면서도 모델의 오남용을 감시하는 자동화 시스템이다. 이 기술의 핵심은 감시 범위를 단일 세션에서 '장기적 관점(long-horizon)'으로 확장했다는 점에 있다. 기존의 제로 데이터 리텐션(ZDR, Zero Data Retention) 방식이 개별 세션 단위로 오남용을 체크했다면, 새 시스템은 여러 번의 대화에 걸쳐 나타나는 입력값과 출력값을 통합적으로 평가한다.

분석 과정은 사람이 아닌 에이전트가 수행한다. 예를 들어 사이버 공격을 위한 악성코드를 설계하려는 사용자가 탐지를 피하기 위해 여러 세션에 걸쳐 요청을 분산해 보낼 경우, 시스템이 이를 하나의 흐름으로 파악해 오남용 징후를 포착한다. 이때 OpenAI는 사용자의 대화 내용을 직접 검토하는 대신, 특정 유형의 활동이 감지되었다는 '좁게 정의된 신호(narrowly defined signal)'만을 수신한다.

신호를 받은 OpenAI는 해당 조치가 필요한지 판단하며, 필요시 고객사에게 연락해 추가 맥락을 요청한다. 이 과정에서 데이터 공유 여부는 전적으로 고객의 재량에 맡겨진다. 즉, 상시 저장이 아니라 '신호 발생 후 고객 동의'라는 단계적 절차를 통해 프라이버시와 안전이라는 두 가지 목표를 동시에 달성하려는 구조다.

market-flow

데이터 보관 정책에서 정면으로 충돌하는 지점은 경쟁사인 앤스로픽(Anthropic)의 행보다. 앤스로픽은 지난 7월, '커버드 모델(covered models)'에 대해 사용자 세션과 대화 내용을 30일간 보관하는 정책을 발표했다. 여기에는 미토스(Mythos) 클래스 모델과 유사한 성능의 미래 모델들이 포함된다. 앤스로픽은 안전성 분석과 부적절한 이용 사례를 걸러내기 위해 이 기간의 데이터 보관이 필요하다는 입장이다.

앤스로픽의 방식은 소수의 승인된 검토자가 제어된 경로를 통해 데이터를 확인하고, 모든 검토 기록을 수정 불가능한 로그로 남기는 방식으로 투명성을 확보한다. 하지만 대량의 민감 데이터를 다루는 기업 고객 입장에서는 데이터가 AI 랩의 서버에 머물거나 사람이 직접 검토할 가능성 자체가 리스크로 작용한다. OpenAI는 바로 이 지점을 공략해 '데이터 비저장 기반의 자동 감시'라는 대안을 제시하며 기업 시장의 점유율을 높이려는 전략을 취하고 있다.

이러한 프라이버시 경쟁은 양사의 재무적 상황과 맞물려 더욱 치열해지는 양상이다. 최근 보고서에 따르면 앤스로픽의 연간 환산 매출률(annualized revenue run rate)은 650억 달러에 달하며, 투자자들 사이에서는 기업공개(IPO) 시 가치가 2조 달러에 이를 수 있다는 전망이 나온다. OpenAI 역시 IPO를 준비하며 성장 속도를 높여야 하는 상황에서, 기업 고객이 가장 민감하게 반응하는 '데이터 주권' 문제를 기술적 차별점으로 내세운 것이다.

reader-impact

한국의 AI 실무자와 기업 결정권자가 주목해야 할 지점은 벤더별 '데이터 리텐션(Data Retention)' 정책의 세부 작동 방식이다. 단순히 '데이터를 학습에 쓰지 않는다'는 약속을 넘어, 안전 모니터링을 위해 데이터를 얼마나 보관하는지, 그리고 그 검토 주체가 '자동화된 에이전트'인지 '승인된 사람'인지에 따라 내부 보안 컴플라이언스 통과 여부가 갈릴 수 있다.

특히 금융, 의료, 공공 분야처럼 데이터 외부 유출에 엄격한 산업군에서는 이번 OpenAI의 사례처럼 ZDR을 확장한 장기 모니터링 옵션이 중요한 선택 기준이 될 것이다. 벤더 선정 시 다음의 체크리스트를 검토할 필요가 있다. 첫째, 오남용 감시를 위해 데이터가 임시 저장되는 기간이 얼마인지 확인해야 한다. 둘째, 이상 징후 포착 시 사람이 직접 데이터를 열람하는 프로세스가 있는지, 있다면 그 로그가 고객사에게 제공되는지 따져봐야 한다. 셋째, 세션 단위의 차단이 아니라 여러 세션을 통합 분석하는 기능이 제공되는지, 그리고 그 과정에서 데이터 저장 없이 신호만 전송되는지 확인하는 것이 핵심이다.

결국 기업용 AI 도입의 핵심은 성능보다 '제어권'으로 이동하고 있다. 이번 업데이트는 시장 참여자들에게 '안전'을 위해 '프라이버시'를 일부 포기해야 한다는 기존의 등식 대신, 기술적 자동화를 통해 두 가지를 동시에 챙길 수 있는 선택지가 생겼음을 의미한다.