학습 데이터 유출을 감지하는 프로젝트 지라프
챗봇이 특정 기사의 문장을 토씨 하나 틀리지 않고 그대로 출력하는 재생성(regurgitation) 현상이 발생하면 저작권 침해 문제가 제기된다. New York Times와 The Daily News는 OpenAI가 학습 데이터셋과 고객 채팅 로그에서 이러한 저작물을 검색할 수 있는 능력이 있음에도 이를 거짓으로 주장했다고 밝혔다.
두 매체는 생성형 AI 모델 학습 과정에서 발생한 저작권법 위반 소송을 통해 OpenAI가 내부적으로 저작물 검색 기능을 갖추고 있었음에도 증거를 은폐했다고 주장했다. 이에 대응해 OpenAI는 출력물에서 원문이 그대로 나오는 사례를 실시간으로 감지하고 기록하는 '프로젝트 지라프(Project Giraffe)'를 구현했다. 이 시스템은 블룸(Bloom) 필터를 통해 재생성 사례를 추적한다.
이러한 체계는 LLM의 데이터 유출 리스크를 기술적으로 모니터링하고 제어할 수 있음을 보여준다. 기업은 모델 출력물을 수동으로 검수하는 단계를 넘어, 학습 데이터의 원문 유출 여부를 자동으로 추적하는 필터링 시스템 도입을 검토해야 한다.
내부 검색 능력 인정과 증거 제출 논란
OpenAI는 대외적으로 검색 능력이 없다고 주장했으나, 내부 실무자의 증언으로 상충하는 사실이 드러났다. 데이터 프라이버시 엔지니어인 Vinnie Monaco는 법정 증언을 통해 OpenAI가 학습 코퍼스 내에서 저작권 보호를 받는 저널리즘 저작물을 찾기 위해 내부 검색과 평가를 이미 완료했음을 밝혔다.
증거 제출 과정에서도 데이터의 양과 질에 관한 갈등이 있었다. 원고는 당초 1억 2,000만 건의 샘플을 요청했으나, 협상을 통해 최종적으로 2,000만 건의 채팅 로그 샘플이 법원에 제출되었다. 하지만 법원은 이 샘플들에 포함된 과도한 편집(redactions, 개인정보나 민감 내용을 가리는 처리)이 데이터의 가치를 훼손해 사실상 사용 불가능한 상태라고 판결했다.
결과적으로 기업이 법적 리스크 관리를 위해 수행한 데이터 편집이 증거로서의 효력을 상실하게 만들었다. 법원은 데이터의 존재 여부보다 제출된 데이터의 투명성과 편집 수준을 문제 삼았다.
7,800만 건의 대화 로그를 통한 내부 검증
OpenAI는 New York Times가 소송을 제기하기 전부터 비식별 처리된 약 7,800만 건의 ChatGPT 대화 데이터베이스를 구축했다. 이 데이터베이스는 AI가 생성한 결과물이 타인의 저작물을 어느 정도 침해하고 있는지 내부적으로 확인하고 정밀하게 판단하는 도구로 사용되었다.
OpenAI 대변인 Drew Pusateri는 이러한 의혹이 거짓이라며 반박한다. New York Times의 소송 근거가 약해지자 사건과 무관한 일반 사용자의 대화 내용에서 새로운 공격 지점을 찾으려 한다는 주장이다. 동시에 OpenAI는 학습 데이터 활용이 저작권법상의 공정 이용(fair use) 원칙에 부합한다는 입장을 고수하고 있다.
대규모 대화 로그를 활용해 침해 여부를 확인하는 체계는 데이터 유출 감지의 기술적 가능성을 증명한다. 다만 수집된 데이터의 비식별 처리 수준과 내부 활용 목적의 정당성은 향후 AI 기업이 직면할 법적 리스크와 데이터 거버넌스 구축의 핵심 근거가 된다.
챗봇이 학습 데이터를 그대로 출력하는 리거지테이션은 데이터 유출의 핵심 경로다. OpenAI는 내부적으로 대규모 로그를 조사하며 저작권 침해 증거를 관리해 왔으나, 이를 대외적으로는 부정했다. 이제 AI 기업은 모델 성능뿐 아니라 원문 유출을 실시간으로 감지하고 차단하는 기술적 방어선의 투명성을 확보해야 법적 리스크를 줄일 수 있다.
