기술 공개 및 적용 범위

구글 딥마인드(Google DeepMind)가 2024년에 발표한 SynthID-Text 접근 방식이 Claude의 텍스트 생성 파이프라인에 적용된다. 이번 조치는 AI 생성 콘텐츠의 식별 가능성을 요구하는 EU AI 법(EU AI Act)의 투명성 코드(Transparency Code)를 준수하기 위한 결정이다. Anthropic은 생성된 텍스트 내에 특정 패턴을 삽입하고, 이를 외부에서 검증할 수 있도록 워터마크 탐지 API를 별도로 출시할 예정이다.

적용 범위는 Claude가 생성하는 모든 텍스트를 대상으로 하지만, 콘텐츠의 성격에 따라 워터마크의 밀도는 달라진다. 일반적인 문장 생성 시에는 읽는 사람이 인지할 수 없는 수준의 패턴이 삽입되며, 이는 전용 키(Key)를 가진 검증자만이 식별할 수 있다. Anthropic은 이 과정이 출력물의 품질에 영향을 주지 않으며, 워터마크가 없는 응답과 외관상 구분되지 않는다고 밝혔다.

워터마크 작동 기제와 탐지 특성

단어 선택의 자유도가 높은 '저위험 선택(low-stakes choices)' 지점에서 패턴을 생성하는 방식이다. 예를 들어 날씨를 묘사할 때 '흐린(overcast)'과 '회색빛의(grey)' 중 어느 단어를 선택해도 의미상 차이가 없는 경우, 모델은 특정 인코딩 키에 따라 단어를 선택함으로써 통계적 패턴을 형성한다. 이는 텍스트의 가독성을 해치지 않으면서도 생성 주체를 증명하는 신호로 작동한다.

기존 AI 탐지 도구인 팡그램(Pangram) 등이 사용하는 언어적 습관(tells) 분석과는 구동 원리가 다르다. 팡그램 같은 도구는 "이것은 [X]가 아니라 [Y]다"와 같은 특정 문장 구조나 AI 특유의 서술 패턴을 찾아내지만, SynthID-Text는 토큰 선택 단계에서 삽입된 암호화된 패턴을 확인한다. 따라서 언어적 특징을 수정하는 것만으로는 워터마크를 완전히 제거하기 어렵다.

텍스트 수정 여부에 따른 탐지 가능성은 편집 강도에 비례한다. 단순한 교정이나 가벼운 편집으로는 워터마크가 완전히 사라지지 않지만, 모든 단어를 교체하는 수준의 전체 재작성(complete rewrite)이 이뤄지면 탐지가 불가능하다. Claude가 기존 텍스트를 교정하거나 편집했을 때의 탐지 여부는 텍스트의 전체 길이와 편집 강도에 따라 결정된다. 편집량이 적어 인간 저자의 단어가 대부분 유지된 경우에는 워터마크가 부착될 지점이 적어 탐지 확률이 낮아진다.

코드 생성 시에는 기능적 제약으로 인해 워터마크 적용 범위가 좁다. 프로그래밍 언어는 문법적 정확성과 작동 가능성이 우선되므로, 일반 텍스트처럼 동의어 간의 자유로운 선택지가 많지 않기 때문이다. 다만 코드 내의 주석(comments)과 같이 임의의 단어 선택이 가능한 영역에서는 워터마크가 사용될 수 있다. Anthropic은 이러한 방식이 실제 생성되는 코드의 기능적 동작에는 미미한 영향만 미친다고 설명했다.

구현 영향 및 실무 고려사항

다른 주요 모델 개발사들 또한 동일한 실천 강령(Code of Practice)에 서명했으며, 각자의 방식으로 워터마크를 구현할 예정이다. 이는 특정 모델의 개별 정책이 아니라 AI 생성 콘텐츠의 투명성을 확보하려는 업계 전반의 기술적 표준화 과정으로 볼 수 있다.

개발자는 향후 공개될 탐지 API의 오탐률(False Positive Rate)을 확인하고, 특히 코드 주석 내에 삽입된 워터마크가 정적 분석 도구(Static Analysis Tool)나 코드 리뷰 파이프라인의 무결성 검사에 영향을 주는지 검증해야 한다.