발표에서 확인된 핵심 사실

수학은 이진적 검증이 가능하고 코드는 컴파일러와 테스트로 오류를 즉시 찾지만, 글쓰기는 최종 성공 기준이 타인의 공명이라는 주관적 요소에 달려 있다. 이러한 특성 때문에 텍스트 모델의 표현력과 진정성은 정체되었으며 마지막 20%의 품질 격차를 메우지 못한다. 글쓰기에는 잘 정의된 명세나 정답, 객관적인 출력 검증 수단이 존재하지 않는다. 형식 논리와 테스트 기반 피드백에 의존하는 코드와 달리, 글쓰기는 기계적으로 성공 여부를 판별할 기준이 없어 AI가 스스로 품질을 개선하는 피드백 순환을 닫지 못한다. 이로 인해 글쓰기는 명확한 종료 조건이 없는 난해한 문제(wicked problem)로 남는다.

설득력 있는 글쓰기는 독자의 내부 상태를 실시간으로 모사하는 마음 이론(Theory of Mind, 타인의 신념이나 의도를 파악하는 능력)을 요구한다. 숙련된 작가는 독자가 이미 무엇을 알고 있으며 어느 정도까지 이해했는지를 문장 단위로 추적한다. 또한 독자가 느끼는 인지 부하를 조절하고, 제시한 논증이 상대에게 어떻게 받아들여질지 예측하며 글을 구성한다. 이는 독자의 인지 상태에 맞춰 정보를 배치하는 전략적 행위다. 반면 LLM(거대언어모델)은 상대의 정신 상태를 시뮬레이션하는 능동적인 정신 모형을 갖추지 않았다. 오직 통계적 확률을 최적화하여 다음 단어를 생성하는 방식으로 텍스트를 출력하며, 이는 독자와의 심리적 상호작용을 모사하지 못하는 한계로 이어진다.

기술이 실제로 작동하는 방식

명확한 명세와 종료 조건, 객관적인 정답이 없는 글쓰기는 컴파일러나 테스트로 자동 개선이 불가능한 난해한 문제(wicked problem, 해결책이 정의되지 않은 복잡한 문제)에 속한다. 작성 과정에서 맥락은 끊임없이 변하고 편집의 종료 시점 또한 명확히 정의되지 않는다. 성공을 판가름하는 기준 역시 근본적으로 주관적이다. 컴파일러가 코드의 구문 오류를 잡아내듯 글쓰기의 품질을 자동으로 측정하고 개선할 객관적 지표가 부재하기 때문이다.

코드 생성 분야의 빠른 발전과 달리 LLM(거대언어모델)은 산문 영역에서 상투적인 리듬과 표현을 반복하는 한계를 보인다. 개성 있는 글을 매끄럽지만 영혼 없는 문장으로 치환하며 실제 이해와 통찰을 드러내지 못한다. AI가 쓴 글은 사람과 비슷하지만 어색함이 느껴지는 불쾌한 골짜기(uncanny valley, 인간과 유사하지만 미묘하게 달라 거부감을 느끼는 현상)에 머문다. 결과적으로 기계적인 매끄러움만으로는 수준 높은 글을 쓰는 사람을 당분간 대체할 수 없다.

AI가 생성량에서 절대우위를 가져도, 인간은 판단, 창의성

AI는 입력 속도와 생성량에서 절대우위를 점하며 한계비용 없이 결과물을 생산한다. 인간이 단순 반복 작업에 인지 역량을 투입하는 기회비용은 이제 극도로 높아졌다. 희소한 자원을 어디에 써야 낭비를 줄일 수 있는지에 따라 노동의 배분이 달라지며, AI가 해결하기 어려운 난해한 문제를 다루고 창의성을 발휘하는 영역에서 인간 노동의 가치가 커진다.

AI 생성물이 웹을 포화시킬수록 실제 경험과 노력이 담긴 인간의 목소리는 모방하기 어려운 비용이 큰 신호(costly signal)가 된다. 이는 흉내 내기 어려워 효력을 가지는 진화생물학의 신호 체계처럼 작동한다. 시장의 경제적 가치는 인간 작업 증명(human proof-of-work)이 확인되는 진정한 인간의 목소리로 이동한다.

작업의 성격이 코드나 수학처럼 이진적 검증이 가능한지, 혹은 산문이나 설득처럼 주관적 공명이 필요한지 구분하여 인간의 인지 자원을 배분한다.