풀스택 개발자 H씨는 최근 공공 데이터 기반의 AI 서비스를 구축하며 데이터 주권 문제에 직면했다. 외부 클라우드 환경에 민감한 공공 정보를 올리는 과정에서 보안 규정과 데이터 유출 우려가 발목을 잡았기 때문이다. 이처럼 국가 차원의 핵심 데이터를 다루는 환경에서 외부 인프라 의존도를 낮추려는 시도가 늘고 있다.

영국 정부의 소버린 LLM 추론 인프라 도입

영국 정부는 최근 국가 주권 AI(Sovereign AI, 국가가 자체적으로 AI 인프라와 모델을 통제하는 전략)를 실현하기 위한 LLM(거대언어모델, 방대한 데이터를 학습해 인간처럼 언어를 이해하고 생성하는 AI) 추론 환경 구축에 착수했다. 이번 프로젝트는 특정 기업의 클라우드 서비스에 종속되지 않고, 영국 내에서 직접 AI 모델을 실행하고 관리하는 것을 목표로 한다. 특히 공공 부문에서 생성되는 데이터를 외부로 반출하지 않고도 고성능 AI 추론을 수행할 수 있는 환경을 조성하는 데 집중하고 있다.

기존 클라우드 의존 방식과의 차이

예전에는 공공 기관이 AI 서비스를 도입하려면 OpenAI나 Google과 같은 대형 클라우드 제공업체의 API를 호출하는 방식이 일반적이었다. 이 방식은 개발 속도는 빠르지만, 데이터가 외부 서버를 거쳐야 하므로 보안 정책상 제약이 많았다. 이제는 영국 정부가 직접 구축하는 소버린 인프라를 통해 모델을 로컬 환경이나 국가 지정 데이터 센터 내에서 직접 구동한다. 이는 데이터가 외부로 유출될 위험을 원천 차단하며, 특정 기업의 정책 변경에 따라 서비스가 중단될 위험을 제거한다.

공공 부문 AI 운영의 실제 변화

개발자가 체감하는 가장 큰 변화는 인프라 제어권의 이동이다. 과거에는 외부 API의 응답 속도와 가용성에 의존해야 했으나, 이제는 자체 인프라 내에서 모델의 파라미터와 추론 과정을 직접 최적화할 수 있다. 영국 정부는 이를 위해 고성능 GPU(그래픽 처리 장치, AI 연산에 필수적인 하드웨어) 자원을 확보하고, 이를 효율적으로 분배하는 오케스트레이션(여러 서버와 컨테이너를 관리하는 기술) 시스템을 도입하고 있다. 이는 단순한 하드웨어 도입을 넘어, 국가 단위의 AI 운영 체계를 재편하는 과정이다.

국가 주권 AI를 위한 인프라 구축은 데이터 보안과 기술 자립이라는 두 마리 토끼를 잡기 위한 필수적인 경로다.