새로운 스펙트럼-X 이더넷 네트워킹, 엔비디아 기업 AI 워크로드 가속화 지원

엔비디아(www.nvidia.co.kr, CEO 젠슨 황)가 AI용 엔비디아 스펙트럼-X™(NVIDIA Spectrum-X™) 이더넷(Ethernet) 네트워킹 기술이 델 테크놀로지스(Dell Technologies), 휴렛팩커드 엔터프라이즈(Hewlett Packard Enterprise), 레노버(Lenovo)의 자사 서버 라인업에 최초로 통합된다고 밝혔다. 이번 협력으로 엔비디아는 기업이 생성형 AI 워크로드를 가속화할 수 있도록 지원한다.  

스펙트럼-X는 생성형 AI를 위해 특별히 설계됐다. 이는 기존 이더넷 제품 대비 1.6배 높은 AI 통신 네트워킹 성능을 구현하며 기업에 새로운 등급의 이더넷 네트워킹을 제공한다. 

최고의 시스템 제조업체 3곳에서 새롭게 선보이는 이 시스템은 스펙트럼-X와 엔비디아 텐서 코어 GPU(Tensor Core GPUs), 엔비디아 AI 엔터프라이즈(AI Enterprise) 소프트웨어, 엔비디아 AI 워크벤치(AI Workbench) 소프트웨어를 결합했다. 이로써 기업들에게 생성형 AI로 비즈니스를 혁신할 수 있는 빌딩 블록을 제공한다. 

엔비디아 창립자 겸 CEO인 젠슨 황(Jensen Huang)은 "기업이 워크로드를 처리하기 위해 데이터센터를 업그레이드하면서 생성형 AI와 가속 컴퓨팅이 세대 간 전환을 주도하고 있다. 가속 네트워킹은 엔비디아의 선도적인 서버 제조업체 파트너사들이 생성형 AI 시대로 신속하게 전환할 수 있도록 새로운 시스템 파동을 일으키는 촉매제가 될 것”이라고 말했다. 

델 테크놀로지스 회장 겸 CEO인 마이클 델(Michael Dell)은 "가속 컴퓨팅과 네트워킹은 대규모 언어 모델(LLM)과 생성형 AI 애플리케이션의 요구 사항을 충족시키는 시스템 구축에 핵심적인 역할을 한다. 델 테크놀로지스와 엔비디아의 협력을 통해 고객에게 데이터에서 인텔리전스를 빠르고 안전하게 추출하는 데 필요한 인프라와 소프트웨어를 제공하고 있다”고 말했다. 

HPE CEO인 안토니오 네리(Antonio Neri)는 "생성형 AI는 의심할 여지없이 여러 산업에서 혁신을 주도할 것이다. 이 강력하고 새로운 애플리케이션은 다양하고 동적인 워크로드를 지원하기 위해 근본적으로 다른 아키텍처를 필요로 한다. 고객이 생성형 AI의 잠재력을 최대한 실현할 수 있도록 HPE는 엔비디아와 협력해 애플리케이션을 지원하는 데 필요한 성능, 효율성, 확장성을 갖춘 시스템을 구축하고 있다"고 말했다. 

레노버 회장 겸 CEO인 양 위안칭(Yuanqing Yang)은 "생성형 AI는 전례 없는 혁신을 실현할 수 있지만 기업 인프라에 대한 요구 사항도 전례 없이 높아졌다. 레노버는 엔비디아와 긴밀히 협력해 최신 AI 애플리케이션을 구동하는 데 필요한 네트워킹, 컴퓨팅, 소프트웨어를 갖춘 효율적이고 가속화된 시스템을 구축하고 있다”고 말했다. 

AI 가속화를 위해 특별히 설계된 네트워킹

스펙트럼-X는 엔비디아 블루필드-3 슈퍼NIC(BlueField®-3 SuperNIC), 가속 소프트웨어를 결합했다. 엔비디아 블루필드-3 슈퍼NIC는 스펙트럼-4 이더넷 스위치의 탁월한 성능, 하이퍼스케일(Hyperscale) AI 워크로드를 강화하는 새로운 등급의 네트워크 가속기이다. 이로써 스펙트럼-X는 AI 워크로드의 효율성을 극대화하며, 세계 최고 수준의 인프라 컴퓨팅 플랫폼인 블루필드-3 DPU를 보완한다. 

스펙트럼-4는 세계 최초의 AI용 초당 51Tb/s 이더넷 스위치이다. 이는 멀티 테넌트(Multi-tenant) AI 클라우드 워크로드의 네트워크 혼잡을 최소화하면서 대규모 또는 부하 상태에서 매우 효과적인 데이터 처리량을 지원한다. 아울러 지능적이고 미세 조정된 라우팅 기술을 통해 네트워크 인프라를 항상 최대한으로 활용한다. 

블루필드-3 슈퍼NIC는 네트워크 집약적인 대규모 병렬 컴퓨팅을 위해 설계됐다. 또한, GPU 서버 간 최대 400Gb/s의 RoCE(RDMA over Converged Ethernet) 네트워크 연결을 지원하고 클러스터 내부의 동서(East-west) 네트워크에서 AI 훈련과 추론 트래픽의 성능을 향상시킨다. 더불어 안전한 멀티 테넌트 데이터센터 환경을 구현해 테넌트 작업 간 결정론적이고 격리된 성능을 보장한다. 블루필드-3 슈퍼 NIC는 절반 높이와 절반 길이의 PCIe 폼 팩터로써 전력 효율성이 뛰어나 기업용 서버에 이상적이다. 

스펙트럼-X를 구동하는 가속 소프트웨어에는 플랫폼의 획기적인 성능을 이끌어내는 큐물러스 리눅스(Cumulus Linux), 퓨어 소닉(SONiC), 네트Q(NetQ)와 같은 엔비디아 소프트웨어 개발 키트와 블루필드의 핵심인 엔비디아 도카(DOCA™) 소프트웨어 프레임워크가 포함된다. 

엔비디아 AI 엔터프라이즈는 안전하고 안정적인 프로덕션 AI(production AI)를 위해 프레임워크, 사전 훈련된 모델, 개발 툴 등을 제공한다. 개발자는 엔비디아 AI 워크벤치를 통해 PC 또는 워크스테이션에서 사전 훈련된 생성형 AI 모델을 빠르게 생성, 테스트, 맞춤화하고, 이를 거의 모든 데이터센터 또는 클라우드로 확장할 수 있다. 

스펙트럼-X로 구동되는 엔비디아 이스라엘-1 슈퍼컴퓨터

스펙트럼-X는 차세대 AI 시스템을 위한 레퍼런스 아키텍처인 엔비디아 이스라엘-1(Israel-1) 슈퍼컴퓨터를 지원한다. 이스라엘-1은 델 테크놀로지스와 협력한 것으로, 엔비디아 HGX™ H100 8-GPU 플랫폼 기반의 델 파워엣지(PowerEdge) XE9680 서버와 스펙트럼-4 스위치 기반의 블루필드-3 DPU와 슈퍼NIC를 사용한다. 

이용 가능 시기

완전한 엔비디아 AI 스택을 탑재한 델 테크놀로지스, HPE, 레노버의 새로운 시스템은 내년 1분기에 출시될 예정이다.