벤치마크 점수에 종속된 '능력 격차' 논리의 한계

인간이 AI보다 작업을 더 잘 수행하거나 재현 불가능한 스타일을 가졌다는 주장이 많다. 반면 AI는 학습 데이터의 양과 질을 통해 그 간극을 빠르게 메우고 있다. 특정 역할에서 인간이 더 적합하다는 논리는 AI가 수행할 수 없는 영역이 존재한다는 전제에 기반하며, 이는 인간의 가치를 AI와의 능력 격차(Capability Gap)에 기대어 옹호하는 구조다.

2023년 당시 ChatGPT 수준에서는 인간의 결과물과 AI의 출력물 사이에 명확한 품질 차이가 존재했다. 최근 모델들은 벤치마크 점수를 높이며 이 격차를 점차 좁히고 있다. 특정 시점의 성능 수치에 따라 가치 판단이 변하는 논리는 기술 진보에 따라 언제든 무너질 수 있다.

조건부 가치 대신 '인간은 소중하다'라는 명제를 그대로 선언하는 방식이 대안으로 제시된다. 이 명제는 최신 모델의 벤치마크 점수나 기술적 진보 여부에 영향을 받지 않으며, 능력의 우위가 아닌 존재 자체에 근거를 둠으로써 논리적 견고함을 확보한다.

의도(Intent) 없는 형식(Form)의 양산과 'AI 슬롭'

이러한 존재론적 가치는 AI가 생성하는 결과물의 '의도' 유무에서 구체화된다. 창작은 머릿속 의도를 구체적인 형태로 응축하고 다듬는 반복 과정이며, 결과물의 품질은 의도(Intent)와 형식(Form)이라는 두 요소로 결정된다.

생성형 AI는 명확한 정신적 모델 없이도 즉시 실질적인 형태를 생성한다. 인간은 의도가 불분명할 때 작업에 난항을 겪으나, AI는 최소한의 입력만으로 그럴듯한 형식을 완성한다. 의도가 생략된 형식이 즉각적으로 도출되는 구조다.

형식은 갖췄으나 그 안에 담긴 의도를 파악하기 어려운 결과물을 AI 슬롭(AI slop)이라 부른다. 텍스트 생성 시 프롬프트는 의도된 형식(Intended form)을 전달하는 매개체가 되며, 정교한 프롬프트는 그 자체로 이미 의도된 형식에 가깝다.

AI가 생성하는 '형식'의 양이 늘어날수록, 그 안에 담긴 인간의 '의도'가 결과물의 실질적인 가치를 결정하는 기준이 된다.