발표에서 확인된 핵심 사실

Claude는 앞으로 생성하는 모든 텍스트에 워터마크(디지털 식별 표식)를 삽입한다. 유럽연합 AI 법(EU AI Act)이라는 법적 규제를 준수하기 위해 도입한 조치다. 이 변화는 특정 텍스트의 작성 과정에 Claude가 개입했을 가능성이 얼마나 높은지를 판별하는 기술적 근거가 된다. Anthropic뿐만 아니라 여러 주요 AI 제공사들이 규제 대응을 위해 동일한 방향의 시스템 구현을 진행하고 있다.

구현 방식은 구글 딥마인드(Google DeepMind)가 2024년 네이처(Nature)지에 발표한 SynthID-Text 방식을 채택했다. SynthID-Text는 텍스트 생성 시 특정 패턴을 심어 AI 생성 여부를 판별하는 기술이다. 이 방식은 2022년 스콧 애런슨(Scott Aaronson)이 제안한 설계 원칙에 뿌리를 두고 있다. 핵심은 모델이 여러 후보 단어 중 하나를 선택할 때 사용하는 무작위성(randomness, 예측 불가능한 선택 과정)의 소스를 변경하여, 인간이 읽을 때는 보이지 않는 식별자를 남기는 구조다.

시스템 도입으로 인한 추가 비용이나 성능 저하는 없다. 워터마크를 삽입하기 위해 별도의 토큰(token, 텍스트 처리 최소 단위)을 생성하는 과정이 없으므로, 서비스 이용 및 사용 비용은 기존과 완전히 동일하다. 모델이 답변을 내놓는 추론 속도에 미치는 영향 또한 무시할 수 있는 수준(negligible)으로 측정되었다.

출력 품질에 대한 내부 테스트 결과는 긍정적이다. 워터마크 적용 후에도 생성된 콘텐츠의 질이나 창의성, 가독성 면에서 저하가 나타나지 않았다. 특히 코드 생성 영역에서도 주석과 같이 임의 선택이 가능한 부분에는 워터마크가 적용되지만, 실제 작동하는 코드 본문에는 영향을 주지 않아 기능적 무결성을 유지한다. 이는 법적 요구사항을 충족하면서도 사용자 경험과 모델의 성능을 보존하려는 선택이다.

무작위 숫자 생성기를 대체하는 키(Key) 기반 단어 선택

검증 도구는 텍스트가 인간에 의해 작성되었는지 여부를 확정하지 않으며, 클로드(Claude)가 일부 작성했을 가능성에 대한 확률만을 수치로 제공한다. 대형 언어 모델(LLM)은 텍스트를 토큰(Token, 단어보다 작은 최소 의미 단위) 단위로 하나씩 생성하는 방식을 취한다. 모델이 다음 단어를 선택하는 시점에서 의미가 유사한 여러 후보 단어가 존재할 때, 기존 시스템은 무작위 숫자 생성기를 통해 그중 하나를 임의로 선택했다. 이번 구현은 이 무작위 선택 단계에 직접 개입하여 특정 패턴을 삽입하는 방식을 사용한다. 이는 생성 단계의 확률 분포를 미세하게 조정하는 작업이다.

단어 선택의 결정권은 무작위 숫자가 아니라 특정 키(Key, 암호화된 식별 값)와 이미 생성된 이전 단어들의 조합으로 옮겨간다. 예를 들어 overcast와 grey처럼 의미가 거의 동일한 후보 단어들 사이에서 선택이 일어날 때, 키에 정의된 규칙에 따라 특정 단어가 선택되도록 유도하는 원리다. 일반 사용자는 평소와 다름없는 자연스러운 문장으로 읽게 되지만, 동일한 키를 보유한 검증자는 단어 시퀀스의 일관성을 분석하여 해당 텍스트가 모델에 의해 생성되었을 확률을 계산한다. 이는 텍스트 내부에 보이지 않는 수학적 표식을 남겨 생성 여부를 판별하는 기법이며, 키가 없는 외부인은 이 패턴을 인지할 수 없다.

워터마크를 삽입하는 과정에서 모델이 평소 사용하지 않는 생소한 단어를 강제로 선택하게 만드는 제약은 두지 않는다. overcast의 매우 드문 동의어인 nubilous 같은 단어는 모델이 정상적인 상황에서 거의 사용하지 않으므로, 워터마크를 위해 억지로 선택 목록에 넣지 않는다. 모델이 원래 고려했을 법한 합리적인 후보 단어 범위 내에서만 선택을 조정함으로써 문장의 가독성과 자연스러움을 유지한다. 이는 기술적 식별자를 삽입하면서도 텍스트의 질적 저하를 막기 위해 모델의 원래 언어 분포를 최대한 보존하는 설계다.

사실적 문장과 코드에서 발생하는 탐지 제약

정답이 하나로 정해진 사실적 문장은 워터마크를 삽입할 공간이 부족해 탐지 효율이 떨어진다. 아이작 뉴턴의 가장 유명한 저서인 Principia 뒤에 올 단어는 Mathematica로 고정되어야 하며, 이를 대체할 다른 정답이 존재하지 않는다. 워터마크는 의미가 유사한 후보 단어들 사이의 선택 과정에 개입하여 식별자를 남기는 방식이므로, 선택지가 없는 구간에서는 작동할 수 없다. 텍스트의 정확성을 유지해야 하는 사실 기반 문장에서는 모델이 임의로 단어를 바꿀 수 없어 식별자 삽입이 제한된다. 결국 텍스트의 정확도가 최우선인 구간일수록 워터마크가 들어갈 공간이 좁아지는 제약이 발생한다.

코드 본문 역시 엄격한 정확성이 요구되는 특성상 일반 텍스트보다 워터마크 삽입 빈도가 낮다. 모델이 2 + 2 = 라는 수식을 완성할 때, 결과값으로 4 외에 동등한 가치를 지닌 다른 토큰(모델이 생성하는 최소 의미 단위)은 존재하지 않는다. 조지 오웰의 소설 1984를 언급하며 숫자를 생성하는 경우에도 5라는 정확한 값 외의 대안은 없다. 이런 상황에서는 워터마크의 유도 기법이 적용되지 않아 식별자가 남지 않는다. 다만 코드 내 주석처럼 작성자가 임의로 단어를 선택할 수 있는 영역에는 워터마크 적용이 가능하다. 코드의 성격과 작성 영역에 따라 탐지 가능 여부가 갈리는 구조다.

단순한 문법 교정 작업은 수정 범위가 매우 좁아 AI의 개입 여부를 판별하기 어렵다. 사용자가 작성한 글의 구두점이나 문법만 수정하도록 요청하면, 모델이 직접 선택한 단어의 수가 극히 적어진다. 워터마크는 모델이 스스로 선택한 단어들에만 부여되므로, 수정량이 적을수록 식별자를 부착할 공간이 부족해진다. 결과적으로 텍스트의 전체 길이가 짧을수록 분석에 필요한 정보가 부족해 탐지 신뢰도는 하락한다. 모델이 더 많은 분량을 직접 작성하여 결정 횟수가 늘어날수록 워터마크가 삽입될 공간이 확보되어 탐지 확률이 높아진다. AI의 작성 비중이 낮을수록 흔적을 찾기는 더 어려워진다.

확률 기반 판별의 한계와 실무적 판단 기준

워터마크 검증 결과는 텍스트가 Claude에 의해 작성되었을 가능성을 나타내는 확률값으로 제공된다. 이는 특정 문장이 인간이 작성했는지 여부를 직접적으로 확정하는 도구가 아니다. 검증자는 단어 시퀀스(단어가 나열된 순서)의 일관성을 통해 생성 확률을 계산하며, 결과적으로 Claude가 일부 작성했을 가능성이 높다는 수치적 근거를 얻을 뿐이다. 판별 도구는 텍스트 내에서 모델이 선택한 단어들이 특정 키와 일치하는 패턴을 보이는지를 분석하여 확률을 도출한다.

판별 범위는 Claude의 출력물로 엄격히 한정된다. 각 모델이나 서비스는 서로 다른 키(암호화된 식별 값)를 사용하므로 타사 AI 모델이 생성한 텍스트의 워터마크 여부나 종류는 판별할 수 없다. 특정 텍스트가 AI로 작성되었다는 일반적 증명이 아니라, 오직 Claude라는 특정 모델의 생성 패턴과 일치하는지만을 확인하는 구조다. 키를 보유하지 않은 외부 검증자나 일반 독자는 텍스트 속에 숨겨진 패턴을 인식할 수 없으며, 이는 모델 간의 상호 운용성보다는 개별 랩의 관리 권한에 기반한다.

개별 사용자를 식별하는 정보는 워터마크에 포함되지 않는다. 워터마크는 모델이 단어를 선택하는 무작위성 소스(난수 생성 방식)를 변경하여 패턴을 남기는 방식이며, 누가 이 요청을 보냈는지에 대한 사용자 식별자와는 완전히 무관하게 작동한다. 기술적으로 텍스트의 생성 출처가 해당 모델인지 추적하는 것이지, 생성 주체인 특정 개인을 추적하거나 식별하는 기능이 아니다. 따라서 워터마크 탐지 결과가 특정 계정의 사용 여부를 입증하는 증거로 쓰일 수 없다.

사실 관계가 명확한 문장이나 코드 본문처럼 단어 선택의 자유도가 낮은 영역은 워터마크 밀도가 낮아 탐지 확률이 떨어진다. 따라서 텍스트의 길이가 짧거나 정답이 하나인 사실적 내용의 비중이 높을수록, 또는 코드 비중이 클수록 워터마크 탐지 결과의 신뢰도는 낮아진다고 판단해야 한다.