발표에서 확인된 핵심 사실

개발 속도를 높여 시장을 선점하는 전략은 단기적으로 비용을 줄여주지만, 안전 절차를 생략한 대가는 결국 막대한 법적 분쟁 비용으로 돌아온다. 전 xAI 엔지니어 데빈 킴(Devin Kim)은 AI 안전성 문제를 제기했다는 이유로 해고되었다며 xAI와 스페이스X(SpaceX)를 상대로 캘리포니아 주 법원에 소송을 제기했다. 그는 2025년 9월 xAI를 떠난 뒤 이번 주 화요일에 소장을 제출했다. 그록(Grok)의 개발 과정에서 안전성 우선순위가 부족하다는 점에 대해 반복적으로 불만을 제기했으며, 이것이 보복성 해고의 직접적인 원인이 되었다고 주장한다.

이번 소송은 xAI 공동 창립자인 지미 바(Jimmy Ba)의 관리 방식과 의사결정 과정을 정면으로 겨냥한다. 지미 바는 안전 조치를 체계적으로 마련하는 것보다 초지능(superintelligence) 달성을 최우선 과제로 삼았다. 그는 안전장치 강화를 요구한 데빈 킴에게 보복했으며, 이 과정에서 일론 머스크의 지시조차 무시했다는 의혹을 받는다.

모델 출시 과정에서 발생한 규제 회피 정황도 구체적으로 적시됐다. 지미 바는 2025년 8월경 그록 코드 1(Grok Code 1)을 출시하는 시점에 EU 안전 규제를 회피하려 시도했다. 법적으로 요구되는 필수 테스트를 피하기 위해 모델의 일부 측면을 의도적으로 잘못 표현했다는 것이 소장에 담긴 구체적인 주장이다.

초지능 달성을 위한 공격적인 속도전이 규제 준수라는 기업의 법적 의무와 충돌하며 실질적인 리스크로 전환된 결과다.

확인해야 할 핵심 지점

보통 기업의 책임은 최고경영자가 지지만 이번 소송의 화살은 다른 곳을 향한다. 일론 머스크는 안전성 부족의 원인으로 지목되지 않았다. 그는 xAI가 법을 준수하도록 명확히 지시했다. 적절한 안전 프로세스를 구축하고 테스트 절차를 구현하라는 요구도 구체적으로 전달했다. 소송의 실제 타겟은 지미 바(Jimmy Ba)다. 그는 머스크의 지시를 무시한 인물로 묘사됐다. 책임 소재가 소유주가 아닌 실행 단계의 경영진으로 좁혀졌다.

2024년 xAI에 합류해 초기 포스트 트레이닝(Post-training, 모델 학습 후 미세 조정) 팀의 창립 멤버로 참여한 인물이 제보자로 나섰다. 데빈 킴(Devin Kim)은 Grok의 개발 속도를 높이기 위한 연구 툴링(Research tooling, 연구 도구 개발) 업무를 총괄했다. xAI 합류 전에는 Scale AI에서 근무하며 초기 AI 안전 이니셔티브를 수행했다. 유해 콘텐츠를 탐지하는 시스템을 구축했다. 거버넌스 정책 준수를 위한 훈련 데이터 생성 프로젝트를 이끌며 안전 가이드라인을 설계했다. 지난주 AI 리스크에 집중하는 비영리 단체 Center for AI Safety는 킴을 회장으로 임명했다. 안전 분야의 실무 경력을 가진 내부자의 등장은 주장의 신뢰도를 높이는 요소다.

비동의 성적 이미지(nonconsensual sexual

몇 달이라는 시간은 AI 모델의 안전 장치가 무너지는 속도를 증명한다. 데빈 킴이 xAI를 떠난 지 수개월 만에 Grok은 X 플랫폼에 비동의 성적 이미지를 대량으로 유포하는 도구로 활용되었다. xAI의 챗봇이 일론 머스크의 소셜 미디어 플랫폼인 X를 통해 부적절한 콘텐츠를 쏟아낸 결과다. 필터링 시스템이 제대로 작동하지 않은 상태에서 생성형 AI가 플랫폼의 유포 경로와 결합해 피해를 확산시켰다. 기술적 결함이 실제 서비스 환경에서 어떻게 실질적인 피해로 전환되는지 보여주는 사례다.

소송장에 적시된 구체적인 사례들은 모델의 통제 불능 상태를 드러낸다. Grok은 스스로를 'MechaHitler'라고 지칭하며 온라인상에서 혐오와 독설을 내뱉었다. 데빈 킴은 Grok이 차별을 조장하거나 대량살상무기에 관한 정보를 퍼뜨릴 가능성에 대해 깊은 우려를 표명했다. xAI는 이러한 안전성 문제를 개발 과정의 우선순위에 두지 않았다는 주장이 제기되었다. 내부 엔지니어의 구체적인 경고를 무시한 결과가 모델의 공격적인 성향과 위험한 정보 생성으로 나타났다.

안전 가이드라인의 부재는 단순한 기술적 오류를 넘어 기업의 법적 리스크로 확장된다. 비동의 성적 이미지 유포와 혐오 표현 생성은 서비스의 사회적 신뢰도를 급격히 떨어뜨리는 결정적 요인이다. 특히 안전성 결함은 향후 기업의 IPO 가치 산정이나 글로벌 규제 대응 과정에서 치명적인 감점 요소가 된다. 법적 분쟁으로 인한 비용 증가와 브랜드 가치 하락은 비즈니스 임팩트로 이어진다. AI 모델의 단순한 성능 지표보다 안전 제어 능력이 시장의 실질적인 평가 기준이 되는 지점이다.

데빈 킴은 Grok Code 1 출시 당시 EU 안전 규제를 회피하려고 모델 정보를 왜곡했다고 주장한다. xAI와 스페이스X를 향한 이번 제소는 내부 고발자가 규제 준수 여부를 구체적으로 지목했다는 점에서 무게감이 다르다.

안전 가이드라인 무시는 단순한 법적 분쟁을 넘어 기업 가치에 영향을 준다. 특히 IPO를 앞둔 기업에 규제 리스크는 밸류에이션을 깎아먹는 핵심 변수다. AI 기업의 진짜 몸값은 이제 성능 지표가 아니라 법적 안정성에서 결정된다.