대규모 에이전틱 AI 지원, 슈퍼마이크로 엔비디아 베라 CPU 256개 탑재한 100% 수냉식 랙 공개

AI, 엔터프라이즈, 스토리지 및 5G/엣지를 위한 토탈 IT 솔루션을 제공하며 데이터센터 빌딩 블록 솔루션®(Data Center Building Block Solutions; DCBBS)을 보유한 슈퍼마이크로컴퓨터(Super Micro Computer, Inc.(NASDAQ: SMCI), 이하 슈퍼마이크로)가 DCBBS 포트폴리오의 최신 제품인 엔비디아 베라 CPU 랙을 공개했다.

엔비디아 베라 CPU 랙은 에이전틱 AI, 강화학습(Reinforcement Learning; RL) 워크로드 및 데이터 처리를 위한 고밀도 CPU 컴퓨팅 역량을 제공하며, 수냉식 AI 팩토리 환경에서 최대 2만 2,500개의 샌드박스를 지원한다. 100% 수냉식으로 설계된 엔비디아 베라 CPU 랙은 현재 출하 중인 슈퍼마이크로의 엔비디아 베라 루빈 NVL72와 함께 운영하거나 독립적으로 구축할 수 있다. 이를 통해 AI 팩토리에서 에이전틱 AI의 증가하는 연산 수요에 대응할 수 있도록 고밀도 CPU 컴퓨팅 역량을 제공한다.

찰스 리앙(Charles Liang) 슈퍼마이크로 사장 겸 CEO는 “에이전틱 AI가 데이터센터의 요구사항을 변화시키면서 슈퍼마이크로는 완전 통합형 인프라를 통해 DCBBS 포트폴리오를 확장하고 있다”며 “공냉식 구축을 원하는 고객을 위해 슈퍼마이크로의 엔비디아 베라 CPU 포트폴리오는 랙 스케일 수냉식 솔루션 외에도 공냉식 1U 및 2U 시스템을 제공한다”고 말했다. 이어 “슈퍼마이크로는 엔비디아와 함께 보안성과 확장성을 갖춘 에이전틱 AI에 최적화된 공통 아키텍처를 제공해 고객의 구축 소요 시간을 단축할 수 있도록 지원한다”고 덧붙였다.

슈퍼마이크로, 대규모 에이전틱 AI 구현하는 엔비디아 베라 CPU 256개 탑재 랙 공개

크리스 메리어트(Chris Marriott) 엔비디아 엔터프라이즈 플랫폼 부문 부사장은 “기업들이 에이전틱 AI와 강화학습을 확장하는 가운데 수천 개의 에이전트 워크플로를 동시에 지원하기 위해서는 새로운 차원의 고밀도 CPU 인프라가 필요하다”며 “엔비디아 베라 CPU와 블루필드-4 DPU를 슈퍼마이크로의 수냉식 DCBBS 아키텍처와 통합함으로써 고객은 AI 팩토리 전반에서 에이전틱 워크로드 실행을 확장하는 데 필요한 전용 컴퓨팅 역량과 하드웨어 기반 보안을 확보할 수 있다”고 말했다.

에이전틱 AI와 강화학습 워크로드는 기존의 선형적 추론 방식에서 벗어나 여러 작업을 나누어 수행하거나 반복하는 방식으로 발전하면서 CPU의 중요성이 커지고 있다. GPU가 토큰, 코드 및 쿼리 생성을 담당하는 반면, CPU 기반 샌드박스는 작업 실행과 결과 평가, 도구 활용 및 워크플로 관리를 수행한다. 따라서 수백 또는 수천 개의 GPU를 운영하는 AI 팩토리에서는 대규모 에이전트 병렬 실행을 지원하기 위한 전용 CPU 컴퓨팅 역량이 필요하다.

이러한 대규모 CPU 연산 수요에 대응하기 위해 설계된 슈퍼마이크로의 엔비디아 베라 CPU 랙은 엔비디아 베라 CPU 256개를 통합해 총 2만 2,528개 코어와 4만 5,056개 스레드를 제공하며, 랙당 최대 2만 2,500개의 에이전트 샌드박스를 동시에 지원한다. 또한 엔비디아 블루필드-4 DPU는 고성능 네트워킹과 칩 수준의 보안 기능을 제공하며, 슈퍼마이크로의 DLC-2 직접 수냉식 냉각 기술 스택은 이러한 워크로드에 최적화된 100% 수냉식 랙을 구현한다.

슈퍼마이크로의 엔비디아 베라 CPU 랙은 현재 견적 요청이 가능하며 엔비디아 베라 CPU 랙 및 엔비디아 베라 루빈 플랫폼 기반의 슈퍼마이크로 솔루션에 대한 자세한 내용은 홈페이지에서 확인할 수 있다.