AI 프로젝트의 실질적 실패와 기술적 한계

미첼 하시모토가 포춘 500대 기업 임원부터 틈새 서비스 산업 종사자까지 전 세계 전문가 300여 명과 진행한 인터뷰를 통해 기업 AI 도입 실태를 분석했다. 하시모토 팀이 직접 참여하거나 우연히 관찰한 모든 AI 프로젝트는 지난 18개월의 기간 동안 단 한 건의 성공 사례도 남기지 못한 0%의 성공률을 기록했다. 프로젝트 실패의 주된 원인은 기업들이 보유한 내부 문서의 낮은 품질로 인해 LLM이 필요한 정보를 찾지 못하는 기술적 한계에서 기인했다.

내부용 챗봇 시스템은 기업의 문서화 수준이 낮아 LLM이 정보를 생성하지 못하는 구조적 결함으로 인해 실제 직원들의 사용률이 극히 저조한 상태로 나타났다. 미쓰비시의 고객 응대 봇 사례는 자연스러운 음성과 빠른 응답 속도를 구현했음에도 불구하고, 6개월 동안 콜백 약속을 이행하지 않아 결국 고객의 차량 구매 포기라는 결과를 초래했다. 이러한 사례는 AI 도구가 특정 작업의 속도를 높일 수는 있으나, 현재의 투자 규모와 방식이 비즈니스 가치 창출로 이어지지 못하고 있음을 보여준다.

소프트웨어 개발 역량이 부족한 기업들은 일반적인 소프트웨어 프로젝트의 실패 요인에 AI라는 신기술의 불확실성 리스크까지 더해져 더 높은 실패 확률에 노출되어 있다. 대다수 조직은 AI 도입 시 발생할 수 있는 추가적인 리스크 프로필을 감당할 만큼의 소프트웨어 배포 능력을 갖추지 못한 상태에서 무리한 투자를 강행하고 있다. 결과적으로 AI 프로젝트는 기술적 완성도와 무관하게 운영 제약과 실행 능력의 부재로 인해 실패하는 경로를 밟고 있다.

'AI 워싱'과 정치적 생존을 위한 기만 체계

기업 내 실무자들은 정직하게 AI의 한계를 보고할 경우 '무작위' 해고 대상자로 선정될 위험이 있어, AI를 사용하지 않았음에도 사용한 것처럼 허위 보고하는 생존 전략을 택했다. 경영진과 이사회는 AI 프로젝트의 성공률을 의도적으로 왜곡하거나 은폐함으로써 자신들의 직위를 유지하고 외부의 기대를 충족시키려는 경향을 보인다. 벤더사와 컨설턴트 역시 자신의 이익을 위해 AI 도입 성과를 과장하며, 이는 조직 전체가 거짓 위에 세워진 '어두운 타임라인'으로 진입하게 만드는 원인이 된다.

정직한 보고를 수행한 직원은 단기간에 해고되거나 조직 내에서 배제되는 처지에 놓이게 되며, 이는 조직 내의 합리적인 소통 구조를 완전히 파괴했다. 미첼 하시모토는 합리적인 대화가 불가능할 정도로 많은 기업이 AI에 매몰된 'AI 사이코시스' 상태에 빠져 있으며, 이는 조직 전체의 이성적 판단력을 마비시키고 있다고 분석했다. 실무자들은 자신의 안녕을 위해 광기 어린 흐름에 동조하는 '립 서비스'를 강요받으며, 기술적 실체보다는 정치적 생존을 우선시하는 환경에 놓여 있다.

공개적으로 AI 생산성 향상을 발표하는 상장 기업들 중 상당수는 실제로는 코파일럿(Copilot) 라이선스를 구매한 것 외에 실질적인 비즈니스 변화를 만들어내지 못했다. 이러한 현상은 AI가 핵심 비즈니스 전략으로 채택되었을 때 발생하는 리스크와 보상에 대한 객관적인 논의를 가로막는 장벽이 된다. 결국 기업들은 실질적인 가치 증명보다는 AI를 도입했다는 상징적 행위에 집착하며 자원을 낭비하는 구조적 모순을 보이고 있다.

의사결정 붕괴와 기업 거버넌스의 위기

프로젝트 리더들은 도구의 실제 사용 여부와 같은 기본 지표 추적을 의도적으로 회피하거나, 조작이 쉬운 지표만을 선택적으로 관리하며 성과를 포장하고 있다. 에이전트 워크플로우 인터페이스로 사업 방향을 전환한 특정 부서의 경우, 실제 제품을 사용한 고객이 10명에 불과했음에도 불구하고 다시 유사한 방향으로 전략을 수정하는 비이성적 반복을 겪었다. 이는 시장의 수요나 제품의 효용성보다는 '에이전트'라는 트렌드에 맞춘 기능 구현 자체가 목적이 된 결과다.

고객사 임원이 AI를 통해 100배의 생산성 향상을 이뤘다고 주장할 때, 벤더사 임원은 그것이 불가능함을 알면서도 고객의 체면을 위해 동조하는 '조정 문제(Coordination Problem)'가 발생하고 있다. 벤더사 임원은 이성적인 반론을 제기했을 때 발생할 계약 취소와 그로 인한 해고 리스크를 피하기 위해 거짓말에 가담하는 정치적 선택을 한다. 이러한 상호 기만 체계는 기업 간의 협력 관계를 기술적 신뢰가 아닌 정치적 이해관계의 결합으로 변질시킨다.

조직 내의 의사결정 체계는 이제 기술적 타당성 검토가 아닌, 누가 더 AI의 변혁적 힘을 강하게 주장하느냐에 따라 승진과 고용이 결정되는 신앙의 영역으로 변모했다. 합리적인 질문을 던지는 행위는 이제 프로젝트를 책임지는 지휘 체계에 대한 공격으로 간주되며, 이는 조직 내에서 어떠한 건설적인 비판이나 개선책도 나올 수 없는 환경을 조성한다. 결국 기업들은 위기 지점에 도달하기 전까지는 개입이 불가능한 통제 불능의 상태로 AI 프로젝트를 밀어붙이고 있다.