공개된 모든 정보는 결국 AI가 접근 가능한 상태가 될 것이다

안티 AI 폰트가 텍스트를 변조하면 스크린 리더 같은 접근성 도구가 정보를 해석하지 못해 장애인 사용자가 배제된다. 인간이 읽을 수 있는 정보는 결국 AI도 파싱할 수 있다. 안티 AI 폰트를 통한 차단 시도는 오히려 AI 기업에 우회 학습 벤치마크를 제공하는 결과로 이어진다.

AI 시스템의 능력 향상 속도에 대해서는 논쟁이 있으나 능력이 저하되는 일은 없다. 수용 여부와 관계없이 권한이 있는 모든 대상에게 공개 정보가 접근 가능해지는 것이 기본 시나리오가 된다. 결국 공개된 모든 정보는 AI가 접근 가능한 상태가 된다.

모션 그래픽이나 비디오를 활용해 정보를 복잡하게 변조하는 정교한 시연 방식들은 실용성이 낮다. 일반적인 웹사이트 사용 환경에 부적합한 방식이다. 따라서 이러한 시도들은 정보 유출을 막기 위한 진지한 장기적 해결책이 될 수 없다.

텍스트를 변조하는 '안티 AI(anti-ai)' 폰트는 웹

스크린 리더가 변조된 텍스트를 그대로 읽어내며 정보 접근이 차단된다. 안티 AI 폰트는 텍스트를 변조해 AI 학습을 방해한다. 스크린 리더(시각 장애인을 위해 화면 텍스트를 음성으로 읽어주는 도구)는 변조된 데이터를 그대로 분석한다. 정작 정보를 전달해야 할 실제 사용자들이 서비스에서 배제된다. AI 학습을 막기 위한 텍스트 변조가 웹 접근성 파괴라는 결과로 이어진다.

접근성을 확보하면서 안티 AI 폰트를 구현할 방법은 없다. 접근 가능한 솔루션을 만들려면 기계가 읽을 수 있는 메타데이터가 필수적이다. 메타데이터(데이터의 성격이나 내용을 설명하는 추가 정보)는 텍스트의 실제 내용을 기계가 인식할 수 있게 돕는다. 하지만 이 데이터의 도입은 다시 인간 인증이라는 거대한 문제로 회귀하게 만든다.

장애인에게만 선택적으로 메타데이터 접근 권한을 부여하려면 중앙 집중식 신원 확인 시스템이 필요하다. 이 시스템은 사용자의 신원을 검증하고 권한을 제어하는 역할을 한다. 이 과정에서 개인정보 보호와 보안 문제가 발생한다. 접근성 확보를 위한 기술적 장치가 결국 중앙 집중식 통제와 보안 리스크를 키우는 결과를 초래한다.

안티 AI 폰트 기술 데모는 오히려 AI 기업들에게 벤치마크

공개된 기술 데모와 논의는 AI 기업이 변조된 텍스트를 우회하는 방법을 학습하는 경로가 된다. AI 기업은 공개된 사례를 통해 멀티모달 모델(multimodal models, 텍스트와 이미지를 동시에 처리하는 모델)을 훈련시킨다. 이미 공개된 변조 기술의 대부분은 AI에 의해 무력화된 상태다. 인간이 시각적으로 정보를 식별할 수 있다면 AI 역시 이를 분석할 방법을 찾아낸다. 새로운 폰트 기술 데모가 나올 때마다 AI 기업은 이를 해결해야 할 벤치마크로 인식하고 대응책을 마련한다. 기술적 변조를 시도하는 행위 자체가 AI 모델의 성능을 높이는 훈련 데이터로 환원된다.

콘텐츠 접근을 위해 높은 계산 비용이 드는 시스템이 도입되면 웹의 개방성이 훼손된다. 복제 방지 시스템과 페이월(paywalls, 유료 결제창) 같은 게이트키핑 방식이 도입될 가능성이 크다. 이러한 체계는 웹 콘텐츠를 검열하려는 시도에 기술적 근거를 제공한다. 정보에 대한 자유롭고 개방적인 접근이라는 World Wide Web(월드 와이드 웹)의 설립 정신은 텍스트 기반의 환경에서만 유지된다. 텍스트 기반의 오픈 웹 표준을 벗어난 변조는 결국 정보 접근의 장벽을 높이는 결과로 이어진다.

안티 AI 폰트 도입 시 스크린 리더 작동 여부와 AI 멀티모달 모델의 우회 가능성을 핵심 체크 기준으로 삼아야 한다.