1.2TB/s. NVIDIA가 새롭게 공개한 Vera(베라) CPU가 구현한 초당 메모리 대역폭 수치다. 이 수치는 AI 팩토리의 핵심인 에이전트 AI 워크로드를 처리하기 위해 설계된 전용 프로세서의 성능 지표를 나타낸다. 일반적인 데이터센터용 CPU가 사용하는 DDR5 메모리 대비 2배 이상의 대역폭을 제공하면서도 전력 소모는 30와트 미만으로 억제했다. 마치 고속도로의 차선을 두 배로 늘리면서 통행료는 절반으로 낮춘 것과 같은 효율이다. 그런데 NVIDIA는 이 수치를 앞세워 그동안 Intel과 AMD가 독점해온 x86_64 아키텍처 시장의 아성을 정면으로 겨냥하고 있다.

88개 Olympus 코어와 LPDDR5X가 이끄는 하드웨어 스펙

88개의 커스텀 Olympus 코어를 단일 다이에 집적한 NVIDIA Vera CPU는 데이터센터의 연산 효율을 재정의한다. 이 코어는 Armv9.2 명령어 세트 아키텍처와 완벽하게 호환되며, 에이전트형 AI(Agentic AI)가 요구하는 복잡한 분기 예측과 샌드박스 환경 내 코드 실행에 최적화된 설계를 갖췄다. 기존 x86 아키텍처가 점유하던 고성능 컴퓨팅 영역을 겨냥한 이 설계는, 대규모 데이터 처리와 오케스트레이션 작업에서 병목 현상을 최소화하는 데 초점을 맞췄다. 특히 2세대 NVIDIA Scalable Coherency Fabric(프로세서 내부 코어 간 데이터 이동을 최적화하는 연결 기술)을 통해 88개 코어 전반에서 일관된 연산 성능을 유지한다.

단일 소켓 기준 450W의 TDP(열 설계 전력) 내에서 구동되는 Vera CPU는 데이터센터의 운영 비용을 직접적으로 절감한다. 주목할 점은 메모리 서브시스템의 구성이다. Vera는 기존 DDR5 대비 에너지 효율이 월등한 LPDDR5X 메모리 서브시스템을 채택했다. 이를 통해 메모리 전력 소모를 30W 미만으로 억제하면서도 최대 1.2TB/s라는 압도적인 메모리 대역폭을 구현했다. 이는 전통적인 서버용 CPU가 메모리 구동에 100W 이상의 전력을 소모하는 것과 비교하면 3배 이상의 효율 개선을 의미한다.

에이전트형 AI는 수많은 툴 호출과 데이터베이스 쿼리를 동시에 처리해야 하므로, 코어 수만큼이나 지속적인 메모리 대역폭 확보가 중요하다. Vera는 STREAM TRIAD 벤치마크 테스트에서 이론상 최대 대역폭의 90%를 유지하며, 기존 x86 프로세서 대비 코어당 4배 이상의 메모리 대역폭을 제공하는 성과를 보였다. 이는 에이전트가 소프트웨어 스택을 조정하고 복잡한 런타임을 실행할 때 발생하는 지연 시간을 획기적으로 줄여주는 결과로 나타난다.

고성능 코어와 고효율 메모리의 조합은 전력 대비 성능비를 극대화하는 Vera 아키텍처의 핵심 전략이다. 450W라는 제한된 전력 범위 내에서 128코어 기반의 최신 x86 프로세서보다 1.5배 높은 성능을 기록한 것은, AI 워크로드에 최적화된 실리콘 설계가 기존 범용 CPU의 지형을 어떻게 바꿀 수 있는지 보여주는 방증이다. 88개의 Olympus 코어는 단순한 연산 장치를 넘어, 에이전트형 AI가 요구하는 예측 가능한 성능과 병렬 처리 능력을 제공하는 기반 인프라로 자리 잡고 있다.

에이전트 AI를 위한 병렬 처리와 데이터 오케스트레이션

2세대 NVIDIA Scalable Coherency Fabric(확장형 일관성 패브릭)은 에이전트 AI가 복잡한 논리적 추론과 실시간 도구 호출을 수행할 때 발생하는 데이터 흐름을 제어한다. NVIDIA Vera(엔비디아 베라, 에이전트 AI 워크로드에 최적화된 고성능 CPU)는 이 패브릭을 핵심 설계 요소로 채택했다. 이 패브릭은 88개의 커스텀 Olympus(올림푸스, Armv9.2 기반의 고성능 CPU 코어) 코어 사이에서 발생하는 데이터 이동을 효율적으로 조율한다. 이를 통해 에이전트가 샌드박스 환경에서 코드를 실행하거나 방대한 데이터셋을 순차적으로 처리할 때 발생하는 병목 현상을 원천적으로 차단한다.

모놀리식 다이(단일 실리콘 다이로 설계된 반도체) 설계는 Vera의 구조적 강점이다. 칩렛 방식과 달리 단일 다이 내에서 모든 코어가 긴밀하게 연결되어 있어, 분기 예측 성능이 비약적으로 향상되었다. 에이전트 AI는 조건부 로직이 빈번하게 발생하는 분기 예측 중심의 런타임 환경에서 작동하는데, Vera는 이 과정에서 발생하는 지연 시간을 최소화한다. 특히 다수의 병렬 워크로드가 동시에 실행되는 상황에서도 일관된 메모리 지연 시간을 유지하는 능력은 기존 x86 아키텍처와 차별화되는 지점이다. 이는 에이전트가 여러 도구를 동시에 호출하고 결과를 취합하는 복잡한 오케스트레이션 작업에서 예측 가능한 성능을 보장하는 기반이 된다.

테스트 결과는 실제 데이터 센터 환경에서 이러한 설계가 얼마나 유용한지를 입증한다. Vera는 샌드박스 코드 실행 및 데이터 처리 가속에 최적화된 구조를 갖추고 있어, 병렬 워크로드 증가 시에도 메모리 대역폭의 효율을 극대화한다. 기존의 범용 CPU들이 다수의 스레드를 처리할 때 발생하는 메모리 지연 시간의 불규칙성을 고려하면, Vera의 일관된 응답 속도는 에이전트 AI의 신뢰성을 결정짓는 핵심 변수다. 이러한 구조적 포석은 단순히 코어 수를 늘리는 경쟁을 넘어, 실제 AI 에이전트가 구동되는 실무 환경에서의 처리량을 극대화하려는 전략적 선택으로 풀이된다.

x86 아키텍처를 추월한 벤치마크 성능 비교

이전 세대인 Grace CPU와 비교해 기하 평균 기준 1.6배 향상된 성능을 기록한 NVIDIA의 차세대 Vera CPU는 최근 Phoronix의 벤치마크 테스트를 통해 세대 간 도약의 폭을 증명했다. 특히 이번 테스트는 에이전트형 AI(Agentic AI) 워크로드에 최적화된 설계가 실제 컴퓨팅 환경에서 어떤 효율을 내는지에 집중했다. 단순히 코어 수를 늘리는 방식이 아닌, 메모리 대역폭과 연산 효율의 결합이 x86 기반 프로세서의 점유율을 위협하는 핵심 변수로 작용하고 있다.

최신 128코어 x86 프로세서와 비교했을 때 Vera는 전체 성능 면에서 1.5배 높은 우위를 점했다. 특히 리눅스 커널 컴파일과 같은 실무 개발 환경에서 Vera는 단일 소켓 구성만으로도 압도적인 처리 속도를 보였다. AMD의 고성능 프로세서인 EPYC 9575F와 비교해도 평균 10% 앞선 성능을 기록하며, 비(非) x86 아키텍처가 범용 서버 시장의 주류로 진입할 수 있다는 가능성을 구체적인 수치로 입증했다. 이는 단순한 벤치마크 수치를 넘어, 데이터센터 인프라를 구축하는 기업들에게 아키텍처 전환을 고려하게 만드는 강력한 시장 신호다.

STREAM TRIAD 테스트에서 정격 피크 대역폭의 90%를 지속적으로 유지한 Vera는 현재까지 Phoronix가 테스트한 모든 CPU 중 가장 높은 효율성을 기록했다. LPDDR5X 메모리 서브시스템을 채택해 기존 DDR5 대비 전력 소모를 획기적으로 낮추면서도 1.2TB/s에 달하는 대역폭을 확보했다. 결과적으로 Vera는 전통적인 x86 CPU 대비 코어당 메모리 대역폭을 4배 이상 높이며, 에이전트형 AI가 요구하는 병렬 처리와 데이터 병목 현상 해결이라는 두 가지 과제를 동시에 해결했다.

NVIDIA가 자체 설계한 Olympus 코어의 아키텍처적 우위는 이러한 성능 지표를 뒷받침한다. 분기 예측과 데이터 처리 효율을 극대화한 이 코어는 에이전트형 AI가 빈번하게 수행하는 샌드박스 실행, 도구 호출, 데이터베이스 쿼리 등에서 일관된 성능을 유지한다. 기존 x86 진영이 고클럭과 전력 소모를 통해 성능을 유지해왔다면, Vera는 낮은 전력 범위 내에서 더 높은 처리량을 확보하는 방식으로 경쟁의 규칙을 바꿨다. 이는 향후 AI 팩토리 운영 비용을 최적화하려는 클라우드 사업자와 인프라 제공업체들에게 강력한 도입 명분을 제공할 것이다.

데이터센터 인프라의 실질적 생산성 변화

리눅스 커널 컴파일 작업에서 Vera는 단일 소켓 구성만으로 20초 만에 완수하며 현존하는 데이터센터 프로세서 중 가장 빠른 처리 속도를 기록했다. 이는 단순히 총 처리량의 우위를 넘어선 결과다. 코어당 성능을 기준으로 비교했을 때, Vera는 기존 128코어 x86 기반 프로세서 대비 2배 빠른 컴파일 속도를 보여주었다. 에이전트형 AI가 구동되는 데이터센터 환경에서 코드 빌드와 같은 반복적인 연산이 전체 파이프라인의 병목 현상을 유발한다는 점을 고려하면, 이러한 실무적 속도 향상은 인프라 운영의 생산성을 근본적으로 재정의한다. NVIDIA Vera 공식 페이지에서 확인할 수 있는 기술 사양은 이러한 연산 효율이 450와트의 열 설계 전력(TDP) 내에서 구현됨을 명시하고 있다.

88개의 올림푸스(Olympus) 코어와 1.2TB/s에 달하는 메모리 대역폭을 결합한 Vera는 데이터베이스 관리와 같은 메모리 집약적 워크로드에서 기존 아키텍처의 한계를 돌파했다. 기존 DDR5 메모리 시스템이 100와트 이상의 전력을 소모하는 반면, Vera에 탑재된 LPDDR5X 서브시스템은 30와트 미만의 전력으로도 2배 높은 대역폭을 제공한다. 이는 단순히 전력 효율을 높이는 차원을 넘어, 데이터센터의 랙당 연산 밀도를 높여야 하는 기업들에게 새로운 인프라 구성의 선택지를 제시한다. 실무 환경에서 다수의 샌드박스와 툴 호출이 동시에 발생하는 에이전트 AI의 특성상, Vera가 보여주는 지연 시간의 일관성은 예측 가능한 인프라 운영을 가능하게 하는 핵심 변수다.

올해 하반기부터 파트너사를 통해 본격적인 시장 공급이 시작될 예정이다. NVIDIA는 이미 주요 AI 기업과 클라우드 서비스 제공업체에 초기 물량을 공급하며 필드 테스트를 마쳤다. 기업들은 데이터센터의 환경에 맞춰 공랭식 또는 수랭식 냉각 시스템을 선택하여 Vera 기반의 인프라를 구축할 수 있다. 이는 고밀도 에이전트 AI 인프라가 필요한 슈퍼컴퓨팅 센터부터 일반적인 엔터프라이즈 데이터센터까지 폭넓은 적용 범위를 확보하겠다는 전략적 포석이다. 기존 x86 독점 체제에 균열을 내고 있는 Vera의 등장은, 데이터센터 인프라가 단순한 연산 장치에서 AI 에이전트의 실질적인 실행 엔진으로 진화하고 있음을 보여주는 가장 강력한 지표다.

한국 AI 인프라 시장에 던지는 새로운 변수

주요 AI 기업 및 클라우드 서비스 제공업체(CSP)에 Vera CPU 1차 물량이 인도되면서 국내 데이터센터 시장의 기술적 지형 변화가 예고되었다. 그간 국내 AI 인프라는 x86 아키텍처 기반의 범용 프로세서에 절대적으로 의존해왔으나, 이번 Vera의 등장은 전력 효율과 고대역폭 메모리 성능을 앞세운 새로운 대안을 제시한다. Vera는 88개의 올림푸스(Olympus) 코어를 기반으로 1.2TB/s에 달하는 메모리 대역폭을 제공하며, 이는 기존 x86 프로세서가 전력 소모 문제로 도달하지 못한 고밀도 에이전트 AI 환경을 겨냥한 포석이다. 국내 CSP와 AI 스타트업은 이제 전력 효율이 낮은 기존 서버 아키텍처에서 벗어나, 에이전트 AI의 복잡한 런타임과 샌드박스 환경에 최적화된 Arm 기반 인프라로의 전환을 본격적으로 검토할 시점에 도달했다.

GTC(NVIDIA 주최 기술 컨퍼런스)를 통해 엔비디아는 Vera를 중심으로 한 광범위한 생태계 지원 계획을 공식화했다. 이는 단순히 하드웨어를 공급하는 단계를 넘어, 슈퍼컴퓨팅 센터와 클라우드 인프라 제공업체들이 표준화된 에이전트 AI 플랫폼을 구축할 수 있도록 돕겠다는 전략적 의지다. 특히 Vera는 단일 소켓과 듀얼 소켓 시스템을 모두 지원하며 공랭식 및 수랭식 냉각 옵션을 제공해, 기존 엔터프라이즈 데이터센터부터 고밀도 AI 팩토리까지 폭넓은 구축 시나리오를 수용한다. 국내 인프라 실무자들에게 Vera의 등장은 단순히 프로세서의 교체가 아니라, AI 에이전트가 요구하는 예측 가능한 성능과 메모리 지연 시간의 일관성을 확보하기 위한 인프라 재설계의 신호탄으로 읽힌다.

스트림 트라이어드(STREAM TRIAD) 테스트에서 정격 피크 대역폭의 90%를 유지한 Vera는 LPDDR5X 메모리 서브시스템을 통해 기존 DDR5 대비 비트당 에너지 소비를 획기적으로 낮췄다. 이는 450와트의 열 설계 전력(TDP) 내에서 고성능을 유지해야 하는 국내 AI 기업들의 인프라 운영 비용 절감과 직결되는 지점이다. 프라임 인텔렉트(Prime Intellect, 분산 학습 및 AI 인프라 최적화 기업)의 테스트 결과는 Vera가 다수의 에이전트 워크로드를 병렬로 처리할 때도 일관된 메모리 지연 시간을 유지함을 보여주었다. 이러한 성능은 국내 기업들이 대규모 언어 모델을 넘어 복잡한 도구 호출과 데이터 처리가 빈번한 에이전트 AI 서비스로 비즈니스 모델을 확장하는 데 필수적인 기술적 토대가 될 것이다. 하반기 본격적인 파트너사 공급이 시작되면, 국내 AI 인프라 시장의 x86 독점 체제는 급격한 재편을 맞이할 것으로 전망된다.