Zen 5 기반의 고성능 프로세서를 탑재한 Ryzen AI Halo

로컬 LLM을 구동하기 위해 고가의 GPU를 확보하거나 Mac Studio와 같은 워크스테이션 도입을 고민하는 개발자에게 하드웨어 비용은 프로젝트 초기부터 마주하는 가장 큰 문턱이다. AMD는 3,999.99달러의 가격으로 AI 개발 키트인 Halo를 출시하며 새로운 선택지를 제시했다.

Ryzen AI Halo는 Zen 5 아키텍처 기반의 AMD Ryzen AI Max+ 395 프로세서를 핵심으로 한다. 이 프로세서는 16코어 32스레드 구성을 갖췄으며, 40개의 RDNA 3.5 Compute Unit을 내장한 AMD Radeon 8060S 그래픽이 탑재되었다. 이는 연산 유닛과 프로세서를 물리적으로 결합해 데이터 처리 경로를 단축하고 연산 성능을 높인 설계다.

시스템의 핵심인 메모리는 128GB 용량의 통합 LPDDR5x-8000 규격이 적용되었다. 이 메모리는 256 GB/s의 대역폭을 지원하며, 시스템 운영 자원을 확보함과 동시에 여러 개의 모델을 동시에 로드하여 구동할 수 있다. 또한 사용자가 직접 탈착할 수 있는 2TB M.2 SSD를 기본 탑재하여 데이터 저장과 관리의 편의성을 높였다.

AI 개발 환경 구축을 위한 전용 미니 PC 패키지

이러한 하드웨어 성능을 실제 개발 환경에서 효율적으로 활용하기 위해 AMD는 전용 소프트웨어 생태계를 결합했다. Ryzen AI Halo는 ROCm(AMD의 GPU 컴퓨팅 오픈 소프트웨어 플랫폼)이나 AMD 하드웨어를 이용한 AI 개발 학습 과정을 간소화하기 위해 설계된 AI Dev Kit이다. 사용자가 부품을 개별적으로 선택하는 대신 정해진 단일 사양의 패키지로 구매하여 AI 개발에 필요한 하드웨어 기반을 즉시 확보할 수 있다.

운영체제는 Windows 11 Pro 또는 Debian 13.4 기반의 커스텀 AMD 리눅스 배포판 중 하나가 사전 설치된 상태로 제공된다. 사용자가 시스템에 직접 다른 OS를 설치해 사용할 수 있는 유연성도 갖췄다. 다만 드라이버와 프로그램, AI 모델이 모두 패키징된 팩토리 설치 버전은 제공되지 않는다. 개발자는 기본 설치된 OS 위에서 학습 목적에 맞는 드라이버와 프로그램, 모델 스택을 직접 구성하고 최적화해야 한다.

15cm x 15cm 콤팩트 폼팩터와 고속 네트워크 지원

Ryzen AI Halo는 15cm x 15cm 크기의 정사각형 폼팩터 안에 128GB 통합 메모리를 담아낸 콤팩트한 기기다. 높이는 5cm 미만이며 본체 무게는 1.2kg으로 책상 위에 배치하기 적합하다. 후면에는 4개의 USB 3.2 Type-C 포트와 HDMI 2.1 포트가 자리하며, 10GbE 이더넷(초당 10기가비트 데이터 전송)과 Wi-Fi 7, Bluetooth 5.4를 지원해 외부 기기와의 연결성을 강화했다.

고성능 연산 과정에서 발생하는 발열을 제어하기 위해 본체 내부에는 두 개의 블로워 팬이 탑재되었다. 이 팬들은 상단과 측면에서 공기를 흡입해 내부 히트싱크를 거친 뒤 후면으로 열을 배출한다. 프로세서의 TDP(열 설계 전력)는 120W 수준이며, 240W 전원 어댑터를 통해 전력을 공급받는다. 소형 폼팩터 내에서 고성능 추론 시 발생하는 발열을 제어하여 시스템 안정성을 유지하도록 설계했다.

AMD가 출시한 Ryzen AI Max+ 395 개발 키트는 Mac Studio가 독점하던 고성능 로컬 추론 시장의 대안으로 자리 잡았다. 결국 개발자가 선택해야 할 기준은 단순한 하드웨어 사양이 아니라, 사용 중인 모델의 파라미터 규모에 따른 메모리 대역폭이 토큰 생성 속도에 미치는 실질적인 성능 저하 수치다. 현재 운영 중인 로컬 LLM의 추론 속도와 Mac Studio 대비 가용 메모리 효율을 직접 비교하여, 하드웨어 도입의 경제적 타당성을 최종 결정하기 바란다.