EU AI법 준수를 위한 전 세계 모델 적용

유럽연합(EU)의 'AI 생성 콘텐츠 투명성에 관한 실천 강령(Code of Practice on Transparency of AI-Generated Content)' 준수를 위해 앤스로픽이 모든 클로드(Claude) 모델에 텍스트 워터마킹을 도입한다. 이번 조치는 특정 지역에 국한되지 않고 전 세계적으로 적용된다. 앤스로픽 측은 지역별로 워터마킹 적용 범위를 정밀하게 제어할 수 있는 기술적 방안이 아직 부재하여 글로벌 출시 방식을 택했다고 밝혔다.

워터마킹이 활성화되는 기준은 생성된 텍스트의 길이로, 200토큰(약 150단어) 이상의 출력물부터 적용된다. 이 시스템은 텍스트 내부에 보이지 않는 유니코드 문자를 삽입하는 방식이 아니라, 모델이 다음 토큰을 선택하는 추론 과정에 직접 개입하는 스테가노그래피(Steganography) 기법을 사용한다. 따라서 텍스트의 외형적인 형태는 유지되지만, 내부적인 단어 선택 패턴에 특정 신호가 심어지는 구조다.

토큰 확률 조정 기반의 작동 방식과 검증

추론 단계에서 모델은 다음 토큰을 결정할 때 '그린(Green)' 리스트와 '레드(Red)' 리스트로 구분된 단어 집합을 참조한다. 각 생성 시점마다 단어들은 결정론적으로 두 리스트에 배정되며, 모델은 레드 리스트보다 그린 리스트에 속한 단어를 선택할 확률을 미세하게 높인다. 특정 단어가 항상 그린 리스트에 고정되는 것이 아니라, 생성 시점의 맥락과 비밀 키(Secret Key)에 따라 동적으로 변하므로 외부에서 단순한 단어 빈도 분석으로는 워터마크를 찾아낼 수 없다.

이 방식은 구글 딥마인드(Google DeepMind)가 제미나이(Gemini)에 적용한 SynthID-Text와 유사한 메커니즘을 가진다. SynthID는 각 토큰의 확률 점수를 조정하여 워터마크를 삽입한다. 구글이 Nature에 발표한 연구에 따르면, 약 2,000만 개의 워터마크 적용 및 미적용 응답을 분석한 결과 사용자 피드백(thumbs-up/down) 비율 차이는 각각 0.01%와 0.02%로 나타났다. 구글 측은 이 수치가 통계적으로 유의미하지 않으며, 인간이 판단하는 응답 품질과 유용성에 미치는 영향이 무시할 만한 수준이라고 주장한다.

탐지 권한은 비밀 키를 보유한 AI 제공자에게만 있다. 앤스로픽의 키로 생성된 워터마크는 앤스로픽만이 확인할 수 있으며, 제미나이나 GPT 등 타사 모델의 워터마크를 상호 탐지하는 것은 불가능하다. 텍스트의 길이가 길어질수록 통계적 확신도가 높아져 탐지 정확도가 상승하며, 반대로 텍스트가 너무 짧으면 워터마크 신호를 식별할 수 없다.

정밀도 제약과 실무적 영향

모든 출력물에 동일한 강도로 워터마킹이 적용되지는 않는다. '2 + 2 ='와 같이 정답이 하나로 고정된 수학적 계산이나, 문법적 정확성이 필수적인 프로그래밍 코드의 핵심 로직에서는 워터마크를 위한 확률 조정이 적용되지 않거나 최소화된다. 다만 코드 내의 주석(Comments)과 같이 단어 선택의 자율성이 있는 영역에서는 워터마킹이 수행된다.

반면 일반적인 산문이나 설명문에서는 유의어 간의 선택 확률이 조정된다. 예를 들어 'overcast'와 'grey' 중 모델이 판단한 최적의 단어가 'grey'일지라도, 워터마킹 리스트의 설정에 따라 'overcast'가 선택될 수 있다. 이는 모델이 계산한 최적의 토큰 분포를 강제로 변경하는 것이므로, 이론적으로는 텍스트의 정밀도나 뉘앙스에 영향을 줄 수 있는 구조다.

실무적으로 가장 주의해야 할 지점은 AI를 활용한 교정 및 편집 작업이다. 사람이 작성한 초안을 클로드가 수정하거나 요약할 경우, 수정 범위와 길이에 따라 결과물에 워터마크 신호가 삽입될 수 있다. 이 경우 순수하게 사람이 쓴 글임에도 불구하고, 사후 검증 과정에서 AI 생성물로 오분류될 위험이 존재한다. 따라서 기업의 콘텐츠 가이드라인이나 학술적 제출물 검증 프로세스에서 AI 교정 도구 사용 시, 제공자의 비밀 키 기반 탐지 시스템에 의해 생성물로 판정될 수 있음을 운영 리스크로 반영해야 한다.