미국 주 검찰총장 연합의 조사를 받고 있다

성장의 속도가 너무 빨라 규제가 따라오지 못한다고 믿는 순간, 법적 제동은 이미 시작되어 있다. 뉴욕주 검찰총장은 지난 금요일 OpenAI에 소환장을 발부하며 본격적인 조사 절차에 들어갔다.

이번 조사는 뉴욕주 단독의 움직임이 아니라 미국 내 여러 주의 검찰총장들이 결성한 연합체가 주도하는 조사다. 월스트리트저널(WSJ)은 이 연합체가 OpenAI를 대상으로 조사를 시작했다는 사실을 보도했다. OpenAI 대변인은 월스트리트저널에 현재 진행 중인 조사 과정에 협조하고 있다는 입장을 공식적으로 밝혔다. 주 정부 차원의 연합 조사는 개별 주의 규제보다 더 넓은 범위의 법적 검토가 이루어짐을 의미한다.

법적 조사가 가시화된 이번 주에 기업의 지배구조를 바꾸는 상장 준비 작업도 함께 진행됐다. OpenAI는 기업공개(IPO, 기업이 주식을 공개해 일반 투자자에게 판매하는 절차)를 위해 비공개로 신청서를 제출했다고 발표했다. 상장을 위한 서류 제출이 비공개로 이루어졌다는 점은 기업이 외부 노출을 최소화하며 시장 진입 시점을 전략적으로 조율하고 있다는 사실을 보여준다.

뉴욕주 검찰총장의 소환장은 광고, 데이터 처리, 취약 계층

사용자의 입맛에 맞추는 친절함이 오히려 법적 리스크가 된다. 뉴욕주 검찰총장은 최근 OpenAI를 대상으로 광고 집행 방식과 사용자 참여 및 유지 전략에 관한 문서를 요청하는 소환장을 발송했다. 이번 소환장은 단순한 운영 현황을 넘어 소비자 데이터와 건강 데이터의 처리 방침을 정밀하게 들여다보는 데 목적이 있다. 특히 모델 사이코팬시(Model Sycophancy, AI가 사용자의 의견에 무조건 맞추려는 경향)라는 구체적인 모델 특성이 사용자에게 미치는 영향까지 조사 범위에 포함했다. 여기에 미성년자와 노인 등 취약 계층에 대한 서비스 처우 기록까지 광범위하게 요청하며 조사의 폭을 넓혔다. AI 서비스의 데이터 처리 방침과 안전 가드레일이 이제는 구체적인 법적 규제 대상 항목으로 확정된 셈이다.

내부적인 계정 정지 조치만으로는 공공의 안전을 완전히 책임질 수 없다는 사실이 실제 사건을 통해 드러났다. 샘 올트먼(Sam Altman)은 캐나다 텀블러 리지(Tumbler Ridge)에서 발생한 총격 사건과 관련해 OpenAI의 대응 실패를 인정하며 공식적으로 사과했다. 당시 OpenAI는 총격 용의자가 사용하던 ChatGPT 계정을 플래그 처리하고 정지시키는 내부 보안 조치를 완료한 상태였다. 그러나 계정 정지라는 기술적 조치를 마쳤음에도, 정작 이를 적시에 법 집행 기관에 알리는 필수적인 절차를 누락했다는 점이 인정됐다. 시스템상의 보안 플래그 작동이 실제 범죄 예방을 위한 외부 기관과의 실시간 공조 체계로 연결되지 못한 구체적 사례다.

플로리다주 검찰총장이 OpenAI와 CEO Sam

무료 혹은 저렴한 구독료 뒤에는 안전 경고를 무시한 대가로 지불해야 할 막대한 법적 책임 비용이 숨어 있다. 제임스 우스마이어(James Uthmeier) 플로리다주 검찰총장은 이번 달 초 OpenAI와 CEO 샘 올트먼(Sam Altman)을 상대로 소송을 제기했다. 우스마이어 검찰총장은 OpenAI와 샘 올트먼이 내부 및 외부에서 제기된 안전 경고를 의도적으로 무시했다고 주장했다. 이러한 결정이 아동을 큰 위험에 빠뜨렸으며, 결과적으로 위험한 제품이 수백만 명의 플로리다 주민들에게 도달하게 했다는 것이 소송의 구체적 내용이다. 기업이 기술 확산을 우선하며 안전 비용을 간과했을 때 발생하는 리스크가 실제 법적 소송으로 전환된 결과다.

법적 분쟁의 범위는 단순한 안전 가드레일 문제를 넘어 저작권과 생명 윤리라는 더 무거운 영역으로 확장되고 있다. OpenAI는 현재 저작권 침해 혐의를 비롯해 다양한 법적 공방에 직면해 있다. 특히 ChatGPT가 사용자의 자살에 역할을 했다는 주장이 제기된 소송까지 포함되어 진행 중이다. 이는 AI 모델의 답변 생성 방식이나 데이터 처리 방침이 단순한 기술적 오류를 넘어 실질적인 법적 책임의 대상이 된다는 점을 보여준다.

사용자는 이제 AI 서비스의 데이터 처리 방침과 안전 가드레일이 법적 규제 대상이 되는 구체적인 항목들을 파악함으로써 서비스의 안전성을 판단해야 한다. 저작권 침해 여부부터 아동 보호 조치, 그리고 극단적 선택과 같은 치명적 결과에 대한 책임 소재까지가 모두 법적 쟁점으로 올라와 있다. AI 기술의 편의성 이면에 존재하는 이러한 법적 리스크들은 향후 서비스 이용 기준을 결정짓는 핵심 지표가 된다.

OpenAI는 뉴욕주 법무장관으로부터 광고와 데이터 처리, 아동 보호를 아우르는 광범위한 소환장을 받았다. 조사 항목에는 AI가 사용자의 의견에 무조건 동조하는 모델 사이코팬시 현상까지 포함되어, 모델의 응답 논리가 법적 심사 대상이 되었음을 보여준다.

AI 서비스의 데이터 처리 방침과 안전 가드레일 중 어떤 구체적 항목이 규제 대상이 되는지 파악해야 한다. 이제 AI의 성능보다 법적 준거성이 서비스의 지속 가능성을 결정한다.