전 직원 챗봇 보급과 '파일럿'의 한계

전 직원에게 코파일럿(Copilot)이나 챗GPT, 클로드(Claude)를 보급한 대기업들의 초기 결과는 예상과 다르다. 일부 사용자는 생산성을 크게 높였지만, 상당수는 주 1~2회 사용에 그치거나 아예 활용하지 않는 양상을 보인다. 이는 1983년 전 직원에게 PC와 로터스 123(Lotus 123)을 나눠주었거나, 1997년 웹 브라우저를 보급했을 때와 유사한 현상이다. 도구의 보급이 곧바로 송장 처리 방식의 효율화나 공급망 관리의 재설계 같은 구조적 변화로 이어지지는 않았기 때문이다.

현재 많은 기업이 선택한 우회로는 '파일럿(Pilot)' 프로젝트다. AI의 새로운 기능을 활용해 기존에 자동화할 수 없었던 프로세스를 실험하는 방식이다. 통상적으로 이러한 파일럿의 성공률은 절반 수준으로 알려져 있다. 하지만 경영진의 고민은 다른 곳에 있다. 수백 개의 워크플로우 중 단 몇 개의 파일럿 성공만으로는 기업 전체의 스케일(Scale)을 달성할 수 없다는 점이다. 챗봇이라는 범용 도구를 주는 것과, 기업의 실제 업무 구조를 바꾸는 것 사이의 간극이 여전히 크다는 사실이 확인되고 있다.

'즉흥적 도구'와 '제도화된 시스템'의 충돌

기업 내 소프트웨어 활용은 '제도화된 도구(Institutionalized)'와 '즉흥적 도구(Improvised)'라는 두 축의 스펙트럼 위에서 움직인다. SAP나 워크데이(Workday)처럼 전사적으로 표준화된 시스템이 제도화된 도구라면, 엑셀(Excel), 이메일, 공유 폴더, PDF 등은 사용자가 필요에 따라 즉흥적으로 사용하는 도구다. 대개 표준 시스템이 처리하지 못하는 예외 상황이나 엣지 케이스(Edge case)가 발생할 때 사용자는 엑셀 같은 자유로운 형식의 도구로 숨어든다.

이 과정에서 특정 즉흥적 작업이 반복되고 중요도가 높아지면, 기업은 이를 다시 '제도화'한다. 보안, 감사, 책임 소재를 명확히 하기 위해 누군가에게 비용을 지불하고 그 경로를 시스템으로 굳히는 과정이다. 수많은 SaaS(서비스형 소프트웨어) 기업들이 바로 이 지점에서 탄생했다. 예를 들어 카르타(Carta)는 CFO가 관리하던 엑셀 시트 하나를 제도화하여 40억 달러 가치의 기업이 된 사례다.

AI는 이 스펙트럼의 임계점을 변화시킨다. AI가 엑셀이나 구글 시트의 확장성을 높여주면, 기업은 굳이 비싼 SaaS를 도입하지 않고도 더 오래 즉흥적 도구에 머물 수 있게 된다. 반대로 AI가 완전히 새로운 형태의 버티컬 앱을 만들어내면, 기존의 제도화된 시스템이 빠르게 해체(Unbundling)될 가능성도 생긴다. 즉, AI는 단순히 코딩을 쉽게 만들어 도구를 늘리는 것이 아니라, 기업이 언제 어떤 도구를 선택하고 제도화할 것인지에 대한 결정 기준을 바꾸고 있다.

실무자가 관찰해야 할 AI 전환의 세 가지 질문

단순히 '클로드 for X' 같은 맞춤형 챗봇을 도입하는 것만으로는 비즈니스 모델의 변화를 이끌어낼 수 없다. 실무자와 결정권자는 AI 도입 시 다음 세 가지 질문을 통해 접근 방식을 구체화해야 한다. 첫째는 '구매, 구축, 배포'의 문제다. 마이크로소프트나 구글의 번들 제품을 쓸 것인지, 자체 구축할 것인지, 혹은 새로운 스타트업의 솔루션을 살 것인지 선택해야 한다. 둘째는 '운영의 변화'다. 이 도구가 이메일이나 스프레드시트가 바꿨던 수준의 근본적인 운영 방식 변화를 가져오는지를 따져야 한다.

마지막은 '경제적 위협과 기회'다. AI가 기존 비즈니스 경제 구조에 도전하거나 새로운 경쟁 압력을 만드는지, 혹은 실존적 위협이 되는지를 판단하는 단계다. 이 과정에서 액센추어(Accenture) 같은 시스템 통합 사업자나 빅4 회계법인, 전략 컨설팅 펌의 역할이 다시 부각되고 있다. 이들은 단순한 기술 구현이 아니라, 현장의 '욕망 경로(Desire path)'를 찾아내어 이를 어떻게 시스템으로 제도화할 것인지 설계하는 '전진 배치 엔지니어(Forward-deployed engineer)'의 역할을 수행한다.

결국 AI 도입의 핵심은 도구의 성능이 아니라 '워크플로우의 재정의'에 있다. 실무자는 현재 조직 내에서 엑셀이나 이메일로 임시방편하게 처리되고 있는 '즉흥적 영역'이 어디인지, 그리고 그것이 AI를 통해 어떻게 제도화될 수 있는지를 관찰해야 한다. 도구의 보급 이후에 오는 진짜 변화는 기존에 불가능했거나 상상하지 못했던 완전히 새로운 업무 방식이 설계될 때 시작되기 때문이다.