출력물에 워터마크를 삽입하기로 결정했다

컴퓨터 시스템이 인식할 수 있는 보이지 않는 코드가 챗봇의 편집 텍스트에 삽입된다. Anthropic은 Claude의 출력물에 이러한 워터마크를 적용해 해당 콘텐츠가 AI에 의해 생성되었음을 표시한다. 텍스트의 가독성이나 외형은 그대로 유지하되, 시스템 단에서만 읽을 수 있는 특수 코드를 삽입함으로써 사람이 읽는 내용과 기계가 인식하는 식별 정보를 분리했다. 챗봇이 내놓는 모든 편집 텍스트 내부에 보이지 않는 표식을 남겨 AI 생성물임을 즉각적으로 판별하는 구조를 도입한 것이다.

이러한 워터마크 도입은 EU AI Act(유럽연합 AI 법)의 투명성 코드(Transparency Code)를 준수하기 위한 구체적인 실행 방안이다. 유럽연합의 규정은 기술 기업이 AI로 생성하거나 편집한 콘텐츠에 대해 컴퓨터 시스템이 식별 가능한 방식으로 라벨을 붙여야 한다는 기술적 요구 사항을 강제하고 있다. Anthropic은 이 기준에 맞춰 AI 생성 콘텐츠의 출처를 명시하는 식별 체계를 구축함으로써 법적 요구 사항을 충족한다. 규제 당국이 요구하는 투명성 기준을 맞추기 위해 AI 생성물에 기계적 식별 가능성을 부여하는 기술적 대응을 실행한 것이다.

기술이 실제로 작동하는 방식

사용자가 구체적인 지침과 맥락을 설계하고 수많은 수정 과정을 거쳐 결과물을 도출하는 환경에서 워터마크 삽입은 비윤리적이라는 비판이 나온다. 사용자는 결정적인 방향을 제시하고 세부 사항을 다듬는 주도적 역할을 수행하며 Claude를 단순한 도구로 활용한다. 이러한 작업 흐름에서 AI가 생성물에 워터마크를 남기는 행위는 도구가 사용자의 지적 기여와 성과에 대해 권리를 주장하는 것과 같은 결과를 낳는다. 사용자가 모든 결정과 정제 과정을 주도했음에도 AI가 그 공로를 가져가는 구조다.

프런티어 모델(최첨단 대규모 AI 모델)이 학습 데이터를 수집한 방식은 현재의 워터마크 정책과 정면으로 충돌한다. 상당수 모델이 타인의 저작물을 무분별하게 수집해 학습하며 성능을 높였음에도, 정작 자신의 출력물에는 식별 표식을 붙여 소유권을 명시하려 한다. 타인의 권리를 배제한 학습 과정과 자신의 결과물을 보호하려는 정책 사이의 모순은 AI 기업의 이중적인 태도로 읽힌다. 학습 단계에서는 타인의 데이터를 자유롭게 사용하고 출력 단계에서는 엄격한 표식을 강제하는 방식은 데이터 주권에 대한 논리적 결함을 드러낸다. 이는 AI 모델의 발전 경로와 보호 정책이 상충하는 지점이다.

일부 사용자들은 워터마크로 인해 직장이나 학교에서 AI 사용

200페이지 분량의 녹취록 요약을 요청한 기자나 창작의 한계에 부딪혀 동의어를 찾은 작가, 문단을 재구성하기 위해 Claude를 사용한 학생 등이 적발 위험에 노출된다. 이들은 AI가 결과물에 남긴 흔적이 마치 이마에 새겨진 디지털 문신처럼 작용해 직장이나 학교에서 피해를 입을 수 있다고 주장한다. 기초적인 요약이나 단어 선택 과정조차 시스템에 의해 기록된다는 점이 사용자에게 실무적인 제약이 된다.

알고리즘 생성물을 추적하는 워터마크 시스템을 합리적인 방안으로 지지하는 사용자층도 존재한다. AI 출력물이 다양한 상황에서 유발하는 위험을 감지하려면 추적 장치가 반드시 필요하다고 본다. 시스템 도입을 반대하는 논거는 타인을 속이려는 의도 외에는 없다고 판단하며, 투명한 식별 체계가 알고리즘 생성물을 관리하는 가장 상식적인 방법이라고 주장한다. 워터마크 도입을 반대할 합리적인 근거가 없다는 점을 강조하며 시스템의 정당성을 옹호한다.

AI가 생성한 텍스트를 수정 없이 그대로 복사해 제출하면 시스템 기반의 워터마크 탐지 도구에 의해 AI 생성물로 식별된다.