NVIDIA DGX GB300, 미 해군 대학원 학교(NPS) 온프레미스 도입

1,500명 이상의 재학 학생과 600명의 교수진이 외부 망을 거치지 않고 캠퍼스 내에서 직접 대규모 AI 컴퓨팅 자원에 접근하게 됐다. 미 해군 대학원 학교(NPS)는 캘리포니아 몬터레이 캠퍼스 내에 NVIDIA AI 기술 센터(AI Technology Center)를 구축하고 NVIDIA DGX GB300 슈퍼컴퓨터 시스템을 도입했다. 이 센터는 AI 연구와 대학원 교육을 위한 전용 허브로 설계되었으며, 시스템 운영에는 대규모 AI 인프라의 가동 상태를 실시간으로 확인하고 연산 자원을 배분하는 NVIDIA Mission Control 소프트웨어가 탑재됐다.

이번 인프라의 핵심은 온프레미스(On-premises) 방식의 구현이다. NPS는 이를 통해 모델 훈련뿐 아니라 추론(Inference) 능력을 동시에 확보했으며, 데이터 보안을 유지하며 대규모 연산을 수행할 수 있는 물리적 기반을 구축했다. 제공되는 컴퓨팅 자원은 기상 예측, 사이버 보안, 재난 복구 및 대응 계획과 같은 특수 목적의 AI 워크로드(Workload)를 처리하는 데 사용된다. 젠슨 황 CEO는 이번 시스템 도입과 관련해 기술은 팀과 국가, 그리고 부여된 임무를 돕기 위한 도구라는 점을 명시했다.

데이터 인프라와 냉각 시스템의 통합 구현 방식

DDN과 VAST Data가 컴퓨팅 자원과 데이터를 연결하는 인프라를 구성한다. DDN은 고성능 데이터 인프라를 통해 GPU가 쉬지 않고 연산할 수 있도록 데이터 읽기 및 쓰기 속도를 높인다. VAST Data는 엣지, 코어, 클라우드 환경을 아우르는 통합 데이터 플랫폼을 공급하여 데이터 위치와 상관없이 보안 접근이 가능하게 함으로써 데이터 이동의 병목 현상을 줄였다.

Vertiv는 서버 랙, 냉각 장치, 전력 인프라를 공급하고 설치 시퀀싱과 테스트 및 커미셔닝 과정을 지원한다. 특히 액체 냉각 방식의 유체 흐름을 실시간으로 감시하는 모니터링 시스템을 통해 고전력 GPU에서 발생하는 열을 제어하고 하드웨어 과열로 인한 성능 저하를 방지한다.

또한 NVIDIA Omniverse 라이브러리를 활용해 가상 세계에 실물을 복제하는 디지털 트윈 환경을 구현한다. 비영리 기구인 MITRE와 협력하여 고정밀 디지털 트윈 구축을 위한 프레임워크를 개발했으며, 이를 통해 물리적 장비를 배치하기 전 가상 환경에서 전력 소모와 냉각 효율을 정밀하게 예측하고 최적화한다. NVIDIA DGX 시스템의 운용 효율을 극대화하기 위해 소프트웨어, 하드웨어, 물리적 환경을 하나의 통합 설계로 묶어낸 결과다.

자체 모델 훈련과 고정밀 시뮬레이션으로 확장된 연구 범위

이러한 통합 인프라를 기반으로 NPS는 연구 범위를 자체 모델 훈련과 고정밀 시뮬레이션으로 확장한다. 인하우스 파운데이션 모델 훈련 능력을 통해 외부 API 의존 없이 내부에서 거대 모델을 직접 학습시킨다. 이를 통해 데이터 보안을 유지하면서 특정 도메인에 최적화된 가중치를 세밀하게 조정하고, 외부 서비스의 API 호출 제약이나 데이터 유출 우려 없이 AI 도구의 실무 적용 속도를 높인다.

해상 상태 모델링과 대기 변화 예측을 위해 고충실도 시뮬레이션을 대규모로 실행한다. 실제 물리 현상을 정밀하게 재현하는 고충실도 디지털 트윈을 통해 변수 통제가 어려운 자연 환경을 가상으로 구현하며, 수만 가지의 시나리오를 동시에 검토해 의사결정의 속도와 정확도를 향상시킨다. 특히 대기 변화와 해상 상태의 상관관계를 수치적으로 분석하여 예측 모델의 오차를 줄인다.

또한 MITRE와 협력한 프레임워크를 통해 불확실한 조건에서의 실제 항해와 의사결정 과정을 시뮬레이션하여 최적의 경로와 대응책을 찾는다. 정기적인 해커톤을 통해 자율 주행, 해양 연구, 작전 계획 분야의 구체적인 기술 진보를 도출하며, 대규모 컴퓨팅 자원을 투입해 연구 결과물을 실무에 즉시 적용 가능한 규모로 확장함으로써 실질적인 작전 효율을 높인다.

소버린 AI 인프라 구축을 위한 통합 설계 기준

NVIDIA Deep Learning Institute(DLI) 교육 툴킷이 대학원 커리큘럼에 도입되어 전공 구분 없이 AI 교육이 통합된다. 이는 하드웨어 설치 이후 인적 역량 강화와 실무 적용 가능성을 동시에 확보하여 인프라 활용도를 극대화하기 위한 구조다. AI 기반 환경에서 단축된 반응 시간은 결정 속도의 경쟁력으로 이어지며, NPS는 인프라를 통해 상황 파악 및 의사결정 속도를 높여 실질적인 작전 효율을 개선하는 데 집중한다.

보안이 필수적인 국방이나 연구 환경에서는 국가나 조직이 자체적으로 통제하는 소버린 AI(Sovereign AI) 구현 모델이 요구된다. 이를 위해서는 GPU 같은 컴퓨팅 자원뿐 아니라 데이터 파이프라인과 전력, 냉각 인프라를 동시에 설계하는 통합 접근 방식이 필요하다. 물리적 인프라의 제약이 컴퓨팅 성능의 병목으로 이어지는 특수 목적 환경의 특성을 반영하여 설계 단계부터 상호 의존성을 고려해야 한다.

특히 폐쇄망 환경의 소버린 AI 인프라는 외부 클라우드 지원 없이 자체적으로 모든 파이프라인을 해결해야 하므로 설계의 정밀도가 더 높아야 한다. 컴퓨팅 자원, 데이터 플랫폼, 냉각 설비라는 세 가지 핵심 요소가 상호 의존적으로 통합되어야만 실전적인 AI 운용 능력이 확보된다. 결국 온프레미스 AI 슈퍼컴퓨터 구축 시 데이터 관리 체계와 전력 및 냉각 설비의 통합 설계 여부가 시스템의 실질적 가동률을 결정하는 최종 기준이 된다.

온프레미스 AI 슈퍼컴퓨터 구축 시 컴퓨팅 자원 확보보다 데이터 관리 체계와 전력 및 냉각 설비의 통합 설계 여부가 시스템의 실질적 가동률을 결정하는 최종 기준이 된다.