EU AI 법 Article 50과 텍스트 식별 기술

2026년 8월부터 유럽연합(EU) AI 법(AI Act)이 본격적으로 시행된다. 이번 법안의 핵심 중 하나인 Article 50은 모든 AI 출력물이 '인공적으로 생성되었음을 감지할 수 있어야 한다'고 명시하고 있다. 이에 따라 EU 시장에서 사업을 하려는 LLM 제공사는 출력물에 AI 생성 콘텐츠임을 식별할 수 있는 숨겨진 서명, 즉 워터마크를 적용해야 한다.

토큰 생성 단계에서 점수를 매기는 방식이 구글의 SynthID다. LLM이 다음 토큰을 선택할 때, 이전 토큰들과의 수학적 관계를 기반으로 점수를 부여하고 상위 후보군 중 점수가 높은 토큰을 우선 선택하는 샘플링 전략을 사용한다. 이 방식은 검증 비용이 저렴하며, 텍스트의 품질을 크게 떨어뜨리지 않으면서도 통계적인 지문을 남길 수 있다.

유니코드 호모글리프(Homoglyph)를 활용한 방식은 더 단순한 접근이다. 일반적인 공백 문자(U+0020) 대신 육안으로는 구분이 불가능한 '3-per-em space'(U+2004)나 'CJK ideographic space'(U+3000) 같은 특수 문자를 특정 패턴으로 섞어 넣는 식이다. OpenAI나 Anthropic의 일부 출력물에서 이러한 유니코드 변형이 관찰되기도 했으며, 이는 클라이언트 단에서도 적용 가능할 만큼 구현 비용이 낮다.

규제 요구사항과 기술적 구현의 충돌

텍스트라는 매체의 특성이 워터마크의 영속성을 방해한다. 이미지나 영상은 인간의 눈에 보이지 않는 노이즈 영역에 데이터를 숨길 수 있지만, 텍스트는 매우 압축된 매체여서 단 한 글자만 바뀌어도 인간이 눈치챌 가능성이 크다. 따라서 텍스트 워터마크는 정교한 스테가노그래피(Steganography) 문제로 귀결되며, 강제로 제약을 걸 경우 모델의 추론 성능이나 응답 품질이 저하되는 트레이드오프가 발생한다.

EU AI 법의 실무 지침(Code of Practice)은 워터마크가 '콘텐츠에서 분리하기 어렵게 내장되어야 하며', 기술적으로 가능한 한 '상호 운용성'을 갖춰야 한다고 요구한다. 하지만 텍스트 워터마크는 제거가 매우 쉽다. 유니코드 기반 표식은 표준 문자로 치환하는 것만으로 사라지며, SynthID 같은 샘플링 기반 지문은 성능이 낮은 다른 LLM을 이용해 내용을 재작성(Paraphrasing)하는 것만으로도 완전히 지워진다.

C2PA(Content Credentials) 같은 디지털 서명 메타데이터 방식이 대안으로 언급되지만, 이는 파일 형태의 데이터에만 유효하다. 채팅 도구나 AI 에이전트가 내뱉는 일반 텍스트(Plain text)는 메타데이터를 담을 '컨테이너'가 없으므로, 파일로 저장되지 않는 한 서명을 유지할 방법이 없다. 결국 규제 기관이 요구하는 '분리 불가능한 식별자'와 텍스트의 기술적 본질 사이에 간극이 존재한다.

AI 실무자가 관찰해야 할 도입 신호와 제약

실무자가 주목할 지점은 추론 스택 앞단에 배치될 '토큰 샘플러'의 도입 여부다. 많은 AI 제공사가 규제 준수를 위해 SynthID와 유사한 토큰 샘플링 레이어를 추론 과정에 추가할 가능성이 크다. 이는 EU 사용자에게만 제한적으로 적용될 수도 있지만, 표준 샘플링 방식과 성능 차이가 없다면 글로벌하게 적용될 가능성도 있다.

워터마크 검증 페이지의 등장 또한 중요한 관찰 신호다. 제공사들이 사용자가 입력한 텍스트를 다시 토큰화하여 점수를 계산하고, 특정 임계값을 넘으면 AI 생성물로 판정하는 무료 검증 도구를 제공하기 시작할 것이다. 만약 EU 차원의 상호 운용성 표준이 수립된다면, 여러 제공사의 모델을 통합 검증하는 단일 페이지가 운영될 수도 있다.

다만 기술적 숙련도가 있는 사용자는 이러한 워터마크를 임의로 제거하는 도구를 빠르게 도입할 것이다. AI 실무자는 워터마크가 '완벽한 증거'가 아니라 '낮은 비용의 필터'로 작동한다는 점을 인지해야 한다. 특히 텍스트 기반의 AI 에이전트 서비스를 구축할 때, 출력물의 유니코드 변형이나 샘플링 패턴이 하위 시스템(코드 에디터, DB 등)에서 예기치 못한 오류를 일으키지 않는지 검증하는 프로세스가 필요하다.