캘리포니아·뉴욕·일리노이가 주도하는 '역연방주의' AI 안전망

해외여행 중 국가마다 다른 전압과 플러그 모양 때문에 당황하거나, 지역마다 제각각인 행정 규칙에 불편을 겪는 일은 흔하다. AI 모델의 안전 기준을 둘러싼 논의도 이와 비슷하다. 강력한 AI 모델의 안전성을 기업의 자율에 맡길지, 아니면 정부가 법으로 강제할지를 두고 갈등이 이어지고 있다. 미국은 이 문제를 해결하기 위해 주 정부들이 먼저 안전 기준을 만들고 이를 국가 표준으로 통합하는 역연방주의(Reverse Federalism, 주 정부가 공통 프레임워크를 통해 공유 방향을 설정하고 이를 연방 표준으로 연결하는 방식) 전략을 취하고 있다.

캘리포니아, 뉴욕, 일리노이 주는 최첨단 AI 시스템을 관리하기 위한 안전 법안을 통해 사실상의 국가 표준(de facto national standard)을 구축하는 핵심 축 역할을 한다. 캘리포니아는 모델 개발 과정의 투명성을 확보하기 위한 핵심 공시(disclosure, 모델의 스펙이나 위험 요소를 외부에 밝히는 것) 프레임워크를 수립했다. 뉴욕은 캘리포니아의 접근 방식을 다른 관할권에 적용하며 제도적 범위를 넓혔고, 일리노이는 공시 내용의 진위 여부를 확인하는 독립적 검증 요구 사항을 추가해 안전 장치를 강화했다.

8월 초 완료 목표, 연방 정부의 사이버 보안 테스트 체계

무료 서비스처럼 보이는 AI 모델이라도 보안 사고가 터지면 기업과 정부가 지불해야 할 비용은 천문학적이다. 트럼프 행정부는 이러한 리스크를 관리하기 위해 가장 성능이 뛰어난 AI 모델을 대상으로 하는 사이버 보안 테스트 프레임워크(보안 취약점을 점검하는 표준 체계)를 구축하고 있다. 정부는 해당 프레임워크를 8월 초까지 마련하는 것을 목표로 잡았으며, 여기에는 구체적인 테스트 표준과 수행 일정, 세부 검증 프로세스가 포함된다. 현재 OpenAI를 포함한 동종 기업, 비즈니스 그룹, 기타 이해관계자들이 행정부와 함께 세부 사항을 설계하고 있다.

연방 정부의 모델 평가 역량을 실질적으로 담당하는 핵심 기관은 CAISI(Center for AI Standards and Innovation, AI 표준 및 혁신 센터)다. CAISI는 바이든 행정부에서 설립되어 트럼프 행정부에서 기능이 강화된 전문 기관으로, 고성능 모델의 잠재적 위험을 정밀하게 측정할 수 있는 기술적 자원과 전문 인력을 제공한다. 연방 정부는 CAISI를 테스트의 중심점으로 설정해 다른 정부 부처와 협력하는 구조를 설계함으로써, 개별 주 정부가 복제하기 어려운 고도의 기술적 검토 역량을 한곳으로 모아 효율성을 높이고 평가의 신뢰도를 확보한다.

테스트의 핵심 방향은 사고 발생 후 책임을 묻는 사후 책임 추궁 방식에서 벗어나, 위해가 실제로 발생하기 전에 이를 차단하는 사전 위해 방지(preventing harm before it occurs) 전략에 집중하는 것이다. 모델이 일반에 배포되기 전 단계에서 사이버 공격에 악용될 가능성을 미리 시뮬레이션하고 취약점을 보완한다. 이러한 사전 검증 체계가 확립되어야 정부 기관이나 국가 핵심 인프라 방어자, 신뢰할 수 있는 파트너들이 최첨단 AI 도구를 안전하게 도입하고 운용할 수 있다.

독립 감사와 사고 보고, 프론티어 랩이 지켜야 할 3대 필수 요건

내부의 심각한 결함을 발견하고도 인사 불이익이 두려워 침묵하는 상황을 막기 위해, 프론티어 랩은 내부 고발자 보호(직원이 보복 우려 없이 위험을 알릴 수 있는 장치) 체계를 반드시 구축해야 한다. 여기에 더해 외부 전문 기관이 모델의 안전성을 객관적으로 검증하는 독립적 감사 수행이 필수 요건으로 제시된다. 기업의 자체 진단 결과에만 의존하지 않고 제3자의 시각으로 취약점을 찾아내어 객관적인 안전 수치를 확보함으로써 개발 과정의 투명성을 높이기 위함이다.

모델이 실제 배포 후 예상치 못한 오작동을 일으켰을 때 이를 은폐하면 피해 규모는 걷잡을 수 없이 커진다. 이를 방지하는 장치가 사고 보고(AI 시스템의 오류나 위험 사례를 기록하고 공유하는 체계) 시스템이다. 사고 보고는 강력한 보안 표준(외부 공격이나 내부 유출을 막기 위한 기술적 규격) 준수와 함께 강제성 있는 운영 표준으로 작동한다. 보안 표준의 엄격한 적용은 모델의 가중치 유출과 같은 치명적인 사고를 막는 최후의 보루가 되며, 개발 실무자가 기술적 결함 해결에 집중할 수 있는 환경을 제공한다.

'규제 파편화' 방지가 주는 실무적 이득과 글로벌 표준의 의미

이러한 개별 랩의 의무 사항들이 주마다 다르게 적용될 때 발생하는 실무적 혼란은 국가 표준의 필요성을 더욱 부각한다. 주마다 상이한 규제가 얽힌 규제 파편화(Patchwork of regulations)는 개발자가 코드 구현보다 법적 준수 여부를 확인하는 데 더 많은 시간을 쓰게 해 리소스를 낭비시킨다. 특히 여러 지역에 서비스를 동시 제공하는 기업은 각기 다른 공시 기준과 검증 절차를 맞추는 데 막대한 행정 비용을 지불하며, 이는 제품 출시 속도를 늦추고 기술적 완성도를 떨어뜨리는 실질적인 손실로 이어진다.

소규모 기업과 스타트업은 규제 대응 비용에 특히 취약하다. 단일화된 국가 표준이 정립되면 법무 검토와 서류 작업에 투입되던 비용을 실제 안전 기술 투자로 전환할 수 있다. 규제 대응을 위한 행정 인력을 유지하는 대신 모델의 취약점을 찾고 보완하는 엔지니어링에 자원을 집중함으로써, 규제 준수를 기술적 경쟁력을 높이는 안전 투자로 바꾼다. 실무 관점에서 단일 표준은 불확실성을 제거해 공격적인 연구개발 투자를 가능하게 하는 안전장치가 된다.

미국 의회에서는 제이 오버놀트(Jay Obernolte)와 로리 트라한(Lori Trahan) 의원 등이 연방 프레임워크(Federal framework, 국가 전체에 적용되는 공통 제도 틀)를 제안하며 표준화에 속도를 내고 있다. 이는 민주적 가치를 기반으로 한 민주적 AI 스택(Democratic AI stack, 민주주의 원칙에 따라 설계되고 배포되는 AI 기술 체계)을 구축해 글로벌 표준을 선점하려는 전략이다. 파편화된 주 법률을 넘어선 단일 표준은 글로벌 시장에서 미국 주도의 안전 배포 체계를 확립하는 기준점이 되며, 개발사가 중복 투자를 피하고 글로벌 표준 대응력을 확보하는 핵심 변수가 된다.

주 정부의 개별 법안을 국가 표준으로 통합하는 역연방주의는 규제 대응 비용을 낮추는 실무적 해법이다. 캘리포니아와 뉴욕, 일리노이가 구축한 안전 장치들이 단일 체계로 묶일 때 비로소 개발 리소스의 낭비를 막고 글로벌 표준에 기민하게 대응할 수 있다. 결국 AI 거버넌스의 성패는 파편화된 규제를 얼마나 빠르게 단일 표준으로 수렴시켜 개발 효율성을 극대화하느냐에 달려 있다. 8월 초 완료 예정인 연방 정부의 사이버 보안 테스트 체계를 통해 구체적인 표준의 방향성을 확인해야 한다.