하이퍼스케일 생성형 AI용 가속 이더넷 플랫폼, 엔비디아 스펙트럼-X 출시

엔비디아(www.nvidia.co.kr, CEO 젠슨 황)가 엔비디아 스펙트럼-X™(NVIDIA Spectrum-X™)를 출시한다고 발표했다.  

스펙트럼-X는 이더넷 기반 AI 클라우드의 성능과 효율을 개선하도록 고안된 가속 네트워킹 플랫폼이다. 

엔비디아 스펙트럼-X는 엔비디아 스펙트럼-4 이더넷 스위치와 엔비디아 블루필드®-3(BlueField®-3) DPU를 결합한 네트워킹 혁신을 기반으로 구축된다. 이로써 전반적인 AI 성능과 전력 효율이 1.7배 개선됐으며, 멀티 테넌트 환경에서 지속적이고 예측 가능한 성능을 제공한다. 또한 엔비디아 가속 소프트웨어와 소프트웨어 개발 키트(SDK)에 힘입어 소프트웨어 정의, 클라우드 네이티브의 AI 애플리케이션 구축이 가능하다. 

또한 엔드 투 엔드 기능은 거대한 트랜스포머 기반 생성형 AI 모델들의 실행 시간을 단축한다. 이를 통해 네트워크 엔지니어와 AI 데이터 과학자, 클라우드 서비스 제공업체들은 결과를 개선하고 정보에 입각한 결정을 더욱 신속히 내릴 수 있게 된다. 

세계 최고의 하이퍼스케일러(hyperscaler)와 업계를 선도하는 클라우드 혁신가들이 엔비디아 스펙트럼-X를 채택하고 있다. 

엔비디아는 스펙트럼-X 레퍼런스 디자인의 청사진과 시험대 역할을 할 이스라엘-1(Israel-1)을 개발 중이다. 이스라엘 데이터센터에 구축될 하이퍼스케일 생성형 AI 슈퍼컴퓨터인 이스라엘-1은 엔비디아 HGX™ H100 8-GPU 플랫폼과 블루필드-3 DPU, 스펙트럼-4 스위치 기반의 델 파워엣지(Dell PowerEdge) XE9680 서버들에 배포될 예정이다. 

엔비디아의 네트워킹 부문 수석 부사장인 길라드 샤이너(Gilad Shainer)는 “생성형 AI처럼 혁신적인 테크놀로지 앞에서 기업들은 데이터센터 성능의 한계를 극복하고 경쟁 우위를 차지하려는 노력을 계속할 수밖에 없다. 엔비디아 스펙트럼-X는 차원이 다른 이더넷 네트워킹으로 차세대 AI 워크로드를 가로막는 장벽을 제거해 산업 전체를 혁신할 잠재력을 가졌다”고 강조했다. 

엔비디아 스펙트럼-X 네트워킹 플랫폼은 각종 AI 애플리케이션에 다목적으로 응용될 수 있다. 표준에 완벽히 기반한 이더넷을 사용하며, 이더넷 기반 스택들과 상호 운용도 가능하다. 

이 플랫폼의 시작은 세계 최초의 51Tb/sec 이더넷 스위치로 AI 네트워크를 위해 특별히 구축된 스펙트럼-4다. 고급 RoCE 확장 기능들이 스펙트럼-4 스위치와 블루필드-3 DPU, 엔비디아 LinkX 옵틱스에서 함께 작동해 AI 클라우드에 최적화된 엔드 투 엔드의 400GbE 네트워크를 생성한다. 

엔비디아 스펙트럼-X는 성능의 격리로 멀티 테넌시를 강화하고 테넌트의 AI 워크로드가 최적의 상태를 유지하며 실행되도록 보장한다. 또한 성능 병목 현상을 식별하고 완전히 자동화된 패브릭 검증 기능을 제공해 AI 성능의 가시성(visibility)을 개선한다. 

스펙트럼-X를 구동하는 가속 소프트웨어로 큐물러스 리눅스(Cumulus Linux)와 소닉(SONiC), 네트Q(NetQ) 등의 강력한 엔비디아 SDK가 포함돼 네트워킹 플랫폼의 성능을 극대화한다. 또한 블루필드 DPU의 핵심에 해당하는 엔비디아 DOCA™ 소프트웨어 프레임워크도 포함돼 있다. 

엔비디아 스펙트럼-X는 단일 스위치로 연결된 200Gb/s 포트 256개, 또는 이중 리프-스파인(leaf-spine) 토폴로지 1개 내 포트 16,000개 연결이라는 전례 없는 규모로 AI 클라우드의 성장과 확장을 지원하는 동시에 높은 수준의 성능을 유지하고 네트워크 레이턴시를 최소화한다.

발빠른 생태계 확장

델 테크놀로지스(Dell Technologies)와 레노버(Lenovo), 슈퍼마이크로(Supermicro) 등의 기업이 엔비디아 스펙트럼-X를 제공한다.

한편 엔비디아 스펙트럼-X와 스펙트럼-4 스위치, 블루필드-3 DPU, 400G LinkX 옵틱스는 지금 사용 가능하며 엔비디아 스펙트럼-X 관련 정보를 컴퓨텍스 2023에서 만나볼 수 있다.