구글의 차세대 서버 칩 'Frozen v2'와 효율성 지표

구글이 자사 AI 모델인 제미나이(Gemini)의 운영 효율을 높이기 위해 새로운 서버 칩 설계를 진행하고 있다. 내부적으로 'Frozen v2'라고 불리는 이 칩의 출시 예정 시점은 2028년이다. 이번 설계의 핵심은 단순한 성능 향상이 아니라 '전력 단위당 생성되는 토큰 수'로 측정되는 에너지 효율성에 있다. 보고서에 따르면 Frozen v2는 구글의 기존 AI 칩보다 효율성이 6배에서 최대 10배까지 높을 것으로 보인다.

구글은 이번 프로젝트에 대해 직접적인 확답을 피하면서도, 하드웨어와 소프트웨어를 처음부터 함께 설계하는 '풀 스택(Full Stack) 접근 방식'을 강조했다. 이는 하드웨어의 물리적 특성과 소프트웨어의 알고리즘을 최적화해 실제 워크로드에서 통합된 성능을 내겠다는 전략이다. 모든 연구 프로젝트가 실제 생산으로 이어지지는 않지만, 이러한 엄격한 탐색 과정이 구글 AI 인프라의 중심에 있다는 설명이다.

자체 칩 확보를 통한 엔비디아 의존도 탈피와 투자 흐름

이번 Frozen v2 설계 소식은 AI 기업들이 엔비디아(Nvidia) 중심의 하드웨어 생태계에서 벗어나려는 경쟁 흐름 속에 있다. 그동안 AI 시장을 지배해온 엔비디아 하드웨어에 대한 높은 의존도는 공급 부족 리스크와 비용 상승이라는 문제를 야기했다. 이에 따라 주요 AI 기업들은 모델 운영 효율을 높이고 컴퓨팅 용량 부족 문제를 해결하기 위해 자체 칩 생산으로 방향을 틀고 있다.

실제로 시장에서는 유사한 움직임이 포착된다. 오픈AI(OpenAI)는 최근 '할라피뇨(Jalapeño)'라는 이름의 자체 추론 프로세서를 발표했으며, 앤스로픽(Anthropic)은 삼성전자와 새로운 칩 제조 파트너십을 논의 중인 것으로 알려졌다. 이는 모델의 성능 경쟁을 넘어, 누가 더 저렴하고 효율적으로 모델을 돌릴 수 있는가라는 '비용 효율성'의 단계로 경쟁 구도가 옮겨갔음을 의미한다.

투자 시장의 반응도 즉각적이었다. 알파벳(Alphabet)은 AI 전략 구축을 위해 올해 1,800억 달러에서 1,900억 달러 사이의 막대한 자금을 지출할 계획이라고 밝힌 바 있다. 투자자들은 이러한 대규모 지출이 실제 수익으로 연결될지에 대해 우려해 왔으나, Frozen v2와 같은 효율적인 칩 설계 소식이 전해지자 알파벳의 주가는 월요일 오전 약 3% 상승하며 긍정적인 반응을 보였다.

AI 실무자가 주목해야 할 '전력당 토큰'의 의미

한국의 AI 실무자와 기업들이 이번 사례에서 관찰해야 할 지점은 성능의 기준이 '절대적 속도'에서 '전력 대비 효율'로 이동하고 있다는 점이다. 과거에는 더 큰 모델과 더 빠른 응답 속도가 중요했다면, 이제는 전력 소모를 얼마나 줄이면서 동일한 양의 토큰을 생성할 수 있는지가 기업의 운영 비용(OPEX)을 결정짓는 핵심 변수가 되었다.

특히 구글이 언급한 '풀 스택 접근 방식'은 향후 AI 도입 전략에 시사하는 바가 크다. 범용 칩을 구매해 소프트웨어를 맞추는 방식이 아니라, 특정 모델의 특성에 최적화된 하드웨어를 함께 설계하는 방향이 표준이 될 가능성이 높다. 이는 AI 서비스 제공자가 하드웨어 계층까지 제어할 수 있을 때 비로소 비용 최적화와 성능 극대화를 동시에 달성할 수 있다는 판단이 깔려 있다.

결국 2028년이라는 출시 일정은 단기적인 업데이트가 아니라, 장기적인 인프라 체질 개선을 목표로 하고 있음을 보여준다. AI 모델을 개발하거나 도입하려는 기업은 단순히 모델의 파라미터 수나 벤치마크 점수뿐만 아니라, 이를 구동하는 하드웨어의 전력 효율과 그에 따른 추론 비용의 변화 추이를 면밀히 살펴야 한다.