8월 2일 이후 모델에 자동 적용되는 텍스트 식별 기술

8월 2일부터 발효된 EU AI 법의 투명성 코드(Transparency Code)가 앤스로픽의 제품 운영 방식에 직접적인 변화를 가져왔다. 앤스로픽은 업데이트된 지원 페이지를 통해 클로드(Claude)를 포함한 자사 모델이 생성한 텍스트와 파일에 워터마크를 삽입한다고 공식 확인했다.

파일의 경우 C2PA(콘텐츠 출처 및 진위 확인을 위한 연합) 오픈 표준을 사용해 생성 출처를 명시한다. 텍스트 워터마크는 모델 레벨에서 적용되는 것이 특징이다. 이는 사용자가 클로드 플랫폼 API, 클로드 코드(Claude Code), 클로드 코워크(Claude Cowork), 클로드 태그(Claude Tag) 중 어떤 제품이나 인터페이스를 통해 텍스트를 생성하더라도 동일하게 워터마크가 포함됨을 의미한다.

특히 이번 기술은 텍스트를 복사해 다른 곳에 붙여넣더라도 워터마크가 함께 이동하도록 설계되었다. 앤스로픽 측은 워터마크가 텍스트의 일부로 포함되어 있어 일부 편집 과정을 거치더라도 식별 표식이 유지될 수 있다고 설명했다. 다만, 어느 정도 수준의 편집이 이루어져야 워터마크가 완전히 제거되는지에 대해서는 아직 구체적인 기준을 밝히지 않았다.

규제 준수와 사용자 반발이 만든 'AI 꼬리표' 흐름

규제 기관의 압박과 AI 생성 콘텐츠에 대한 사용자들의 반발이 맞물리며, 생성물에 식별 표식을 붙이는 작업이 업계의 필수적인 채택 흐름으로 자리 잡고 있다. EU AI 법은 AI 기업이 다른 시스템이 식별할 수 있는 방식으로 AI 생성 또는 편집 콘텐츠를 표시하도록 강제하고 있으며, 이는 단순한 권고를 넘어 법적 준수 사항이 되었다.

음악 AI 플랫폼 수노(Suno)는 최근 잇따른 법적 분쟁 이후 플랫폼 내 생성 곡에 표식을 남기기로 결정했다. 뉴스레터 서비스 서브스택(Substack) 역시 AI 생성 콘텐츠를 식별하기 위해 팡그램(Pangram)과 협력했다. 서브스택의 CEO 크리스 베스트는 AI를 이용해 콘텐츠를 대량 생성하는 행위를 '클로드피싱(Claudefishing)'이라 명명하며 이러한 흐름의 필요성을 강조했다.

이러한 움직임은 앤스로픽뿐만 아니라 글로벌 빅테크 전반으로 확산하고 있다. 구글, 메타, 마이크로소프트, 오픈AI(OpenAI)를 비롯해 블랙 포레스트 랩스(Black Forest Labs), 신테시아(Synthesia) 등의 기업들이 EU의 투명성 코드를 준수하겠다고 약속한 상태다. 시장 참여자들에게 AI 생성물 표시 기능은 이제 선택이 아닌 규제 리스크 관리를 위한 기본 사양이 되고 있다.

AI 실무자가 관찰해야 할 탐지 가능성과 제약 조건

AI를 활용해 콘텐츠를 생성하고 배포하는 실무자가 가장 먼저 확인해야 할 지점은 텍스트 편집을 통한 워터마크 제거 가능 여부다. 앤스로픽이 '모델 레벨' 적용을 강조한 만큼, 프롬프트 수정이나 단순한 문장 교체만으로는 식별 표식을 지우기 어려울 가능성이 크다.

모델 레벨 워터마크가 도입되면 기업은 AI 생성물을 활용한 외부 콘텐츠의 진위 여부를 판단하는 기준을 다시 세워야 한다. 특히 C2PA 표준을 사용하는 파일의 경우, 해당 표준을 지원하는 검증 도구를 통해 생성 출처를 즉각 확인할 수 있게 된다. 이는 AI 생성 콘텐츠의 투명성을 높이는 동시에, 무단 도용이나 허위 정보 유포를 추적하는 기술적 근거가 된다.

향후 관찰 신호는 워터마크의 '지속성'과 '탐지율'이다. 텍스트의 일부를 수정하거나 다른 언어로 번역했을 때도 워터마크가 유지되는지, 그리고 타사 탐지 시스템이 앤스로픽의 워터마크를 얼마나 정확하게 잡아내는지에 따라 AI 콘텐츠의 유통 방식과 검증 프로세스가 결정될 것이다.