유럽 AI 인프라 구축 가속화, 엔비디아 DSX POD AI 팩토리 공개

엔비디아(www.nvidia.co.kr)가 모듈형 컨테이너 내부에 완전한 엔비디아 베라 루빈(NVIDIA Vera Rubin) AI 팩토리를 구축할 수 있도록 지원하는 레퍼런스 설계 DSX POD를 공개했다. 

파트너사는 DSX POD를 기반으로 시스템을 사전에 통합·검증한 뒤 현장에 공급할 수 있다. DSX POD유닛은 현장에 마련된 전력, 냉각, 네트워킹과 기타 지원 인프라에 즉시 연결할 수 있도록 설계돼, 기존 약 6개월이 걸리던 구축 기간을 빠르면 14일까지 단축할 수 있다. 

DSX POD는 컴퓨팅, 네트워킹, 케이블링, 랙 단위 전력 공급, 액체 냉각 시스템의 통합과 설치 과정을 제조 시설에서 수행하도록 해, 기존 현장 구축 방식에 필요한 복잡한 계획과 시공, 전문 인력, 물류 부담을 줄인다. 또한 공장에서 테스트를 완료한 컨테이너를 활용함으로써 부품 조달 지연과 비용이 많이 들고 오류가 발생하기 쉬운 현장 작업에 따른 위험을 줄인다. 이를 통해 모델 학습과 생산 추론까지 걸리는 시간을 단축해 고객이 더 빠르게 토큰을 생성하고 수익을 창출할 수 있도록 지원한다. 

엔비디아 창립자 겸 CEO 젠슨 황(Jensen Huang)은 “AI 팩토리는 건설이 완료되는 시점이 아니라 토큰을 생산하기 시작할 때 가치를 창출한다”며, “엔비디아 DSX POD는 공장 제작 방식의 정밀도와 속도를 AI 인프라 구축에 도입해 구축 기간을 수개월에서 수주로 단축한다. 이를 통해 고객은 컴퓨팅 용량을 확장하고 수익 창출이 가능한 생산 환경을 더 빠르게 가동할 수 있다”고 말했다. 

공장 제작 방식으로 AI 인프라 구축 가속

엔비디아 DSX POD는 베라 루빈 시스템과 이를 운영하는 데 필요한 인프라를 반복 구축이 가능한 공장 제작 방식의 컨테이너형 설계로 통합해, 파트너사가 이를 대규모로 생산하고 공급할 수 있도록 지원한다. 

DSX POD는 보다 광범위한 엔비디아 DSX™ 인프라 플랫폼의 설계 철학을 계승하면서도, 운송과 설치 전에 전용 컨테이너 내부에서 시스템을 통합하고 검증하는 독자적인 아키텍처를 적용했다. 파트너사는 출하 전에 랙 간 케이블 연결과 배선, 배관, 기능 검증을 완료한다. 이러한 작업은 현장 준비 과정과 별도로 진행되므로, 새로운 컴퓨팅 용량을 가동하기까지 걸리는 시간을 더욱 단축할 수 있다. 

이러한 생산 가동 시점을 앞당기는 것은 구축 속도를 경제적 가치로 연결하는 핵심 요소다. 첫 토큰 생성 시점(Time to first token, TTFT)은 새로운 AI 팩토리가 실제 생산 워크로드를 처리하기 위해 모델을 실행하기 시작하는 시점을 의미한다. 이를 통해 운영자는 인프라를 더욱 빠르게 고객 서비스에 활용할 수 있다. 

글로벌 파트너 생태계 및 공급 계획

엔비디아는 안두릴(Anduril), 아르마다(Armada), 불(Bull), 크루소(Crusoe), 데이원(DayOne), 델 테크놀로지스(Dell Technologies), 델타(Delta), 이튼(Eaton), 폭스콘(잉그라시스)(Foxconn, (Ingrasys)), 기가바이트(GIGABYTE), HPE, 레노버(Lenovo), 페가트론(Pegatron), 콴타 클라우드 테크놀로지(Quanta Cloud Technology, QCT), 슈나이더 일렉트릭(Schneider Electric), 버티브(Vertiv), 위스트론(Wistron)과 협력해 2027년 초부터 전 세계에 DSX POD AI 팩토리를 공급할 예정이다. 

여기서 젠슨 황 CEO의 GTC 베를린 키노트를 시청하고, 여기서 자세한 세션 프로그램을 확인할 수 있다.