엔비디아 DSX MaxLPS, 람다 와트당 성능 향상 지원

엔비디아(www.nvidia.co.kr)는 AI 클라우드 제공업체 람다(Lambda)가 AI 인프라 서밋(AI Infra Summit)에서 엔비디아 블랙웰(NVIDIA Blackwell) 서버 기반 DSX MaxLPS 첫 검증 결과를 공개했다고 밝혔다. 

DSX MaxLPS는 GPU와 랙 전반의 전력 소비를 지속적으로 모니터링하고, 필요한 곳에 가용 전력을 동적으로 재할당한다. 또한 정적 프로비저닝으로 인해 활용되지 않는 전력 용량을 회수해 보다 효율적으로 사용할 수 있도록 한다. 학습과 추론 워크로드는 서로 다른 전력 사용 패턴을 보이는 만큼, MaxLPS는 다양한 워크로드가 혼재된 AI 팩토리 전반에서 전력 할당을 최적화한다.

검증 결과, 람다는 통상 최대 전력으로 16개 노드를 운영하는 데 사용되는 것과 동일한 전력 예산 내에서 19개 노드를 가동했다. 이를 통해 클러스터 전체의 토큰 처리량을 초당 약 400만 개에서 500만 개로 24% 높였으며, 와트당 성능도 23% 향상했다. 

차세대 엔비디아 베라 루빈 NVL72 기반 AI 팩토리의 경우, 적합한 구축 환경에서 DSX MaxLPS를 활용하면 동일한 메가와트 전력 예산으로 GPU 용량을 최대 40%까지 추가로 확보할 수 있다.

이를 통해 AI 팩토리 운영자는 동일한 전력 한도 내에서 AI 처리 용량과 토큰 처리량을 늘리고, 각 메가와트당 생산성과 경제적 가치를 극대화할 수 있다.

여기에서 람다의 검증 결과에 대한 자세한 내용을 확인할 수 있다.