차세대 산업혁명 견인, 엔비디아 AI 팩토리와 데이터센터 구축 위한 협력 발표

엔비디아(www.nvidia.co.kr, CEO 젠슨 황)는 세계 최고의 컴퓨터 제조업체들과 협력해 차세대 생성형 AI 혁신을 주도할 AI 팩토리와 데이터센터 구축을 위해 기업이 사용할 수 있는 그레이스(Grace) CPU, 엔비디아(NVIDIA) 네트워킹과 인프라를 갖춘 다양한 엔비디아 블랙웰(Blackwell) 아키텍처 기반 시스템을 공개했다.  

컴퓨텍스(COMPUTEX) 기조연설에서 엔비디아 창립자 겸 CEO 젠슨 황(Jensen Huang)은 애즈락 랙(ASRock Rack), 에이수스(ASUS), 기가바이트(GIGABYTE), 인그라시스(Ingrasys), 인벤텍(Inventec), 페가트론(Pegatron), QCT, 슈퍼마이크로(Supermicro), 위스트론(Wistron), 위윈(Wiwynn)이 엔비디아 GPU와 네트워킹을 사용해 클라우드, 온프레미스, 임베디드와 엣지 AI 시스템을 제공한다고 발표했다. 

CEO 젠슨 황은 “차세대 산업 혁명이 시작됐다. 수조 달러 규모의 기존 데이터센터를 가속 컴퓨팅으로 전환하고 새로운 유형의 데이터센터인 AI 팩토리를 구축해 새로운 상품인 인공지능을 생산하기 위해 기업과 국가들이 엔비디아와 협력하고 있다. 서버, 네트워킹, 인프라 제조업체부터 소프트웨어 개발자에 이르기까지 업계 전체가 블랙웰을 통해 모든 분야에서 AI 기반 혁신을 가속화할 준비를 하고 있다”고 말했다. 

모든 유형의 애플리케이션에 대응하기 위해 단일 GPU부터 멀티 GPU, x86 기반 프로세서부터 그레이스 기반 프로세서, 공냉식부터 수냉식 기술까지 다양한 제품을 제공할 예정이다. 

또한, 다양한 크기와 구성의 시스템 개발 속도를 높이기 위해 엔비디아 MGX™ 모듈형 레퍼런스 디자인 플랫폼은 이제 엔비디아 블랙웰 제품을 지원한다. 여기에는 메인스트림 대규모 언어 모델 추론, 검색 증강 생성과 데이터 처리를 위한 탁월한 성능을 제공하도록 설계된 새로운 엔비디아 GB200 NVL2 플랫폼이 포함된다. 

GB200 NVL2는 기업들이 매년 수백억 달러를 지출하는 데이터 분석과 같은 신흥 시장 기회에 적합하게 설계됐다. NV링크(NVLink)®-C2C 인터커넥트와 블랙웰 아키텍처의 전용 압축 해제 엔진이 제공하는 고대역폭 메모리 성능을 활용하면 데이터 처리 속도가 최대 18배 빨라지고, x86 CPU를 사용할 때보다 에너지 효율이 8배 향상된다. 

가속 컴퓨팅을 위한 모듈식 레퍼런스 아키텍처

전 세계 데이터센터의 다양한 가속 컴퓨팅 요구 사항을 충족하기 위해 엔비디아 MGX는 컴퓨터 제조업체에 100가지 이상의 시스템 디자인 구성을 빠르고 비용 효율적으로 구축할 수 있는 레퍼런스 아키텍처를 제공한다. 

제조업체는 서버 섀시를 위한 기본 시스템 아키텍처로 시작한 다음 다양한 워크로드를 처리하기 위해 GPU, DPU, CPU를 선택한다. 현재까지 25개 이상의 파트너사에서 90개 이상의 시스템이 출시됐거나 개발 중이며, 이는 작년 6개 파트너사의 14개 시스템에서 증가한 수치다. MGX를 사용하면 개발 비용을 최대 4분의 3까지 절감하고 개발 시간을 최대 3분의 2 줄인 6개월까지 단축할 수 있다. 

AMD와 인텔(Intel)은 처음으로 자체 CPU 호스트 프로세서 모듈 설계를 제공할 계획으로 MGX 아키텍처를 지원하고 있다. 여기에는 차세대 AMD 튜린(Turin) 플랫폼과 이전에 그래나이트 래피즈(Granite Rapids)라는 코드명으로 더 익숙했던 인텔® 제온(Xeon)® 6 프로세서의 P-코어가 포함된다. 모든 서버 시스템 빌더는 이러한 레퍼런스 디자인을 사용해 개발 시간을 절약하는 동시에 설계와 성능의 일관성을 보장할 수 있다. 

엔비디아 최신 플랫폼인 GB200 NVL2 역시 MGX와 블랙웰을 활용한다. 스케일아웃, 단일 노드 설계를 통해 다양한 시스템 구성과 네트워킹 옵션을 지원해 가속 컴퓨팅을 기존 데이터센터 인프라에 원활하게 통합할 수 있다. 

GB200 NVL2는 엔비디아 블랙웰 텐서 코어(Tensor Core) GPU, GB200 그레이스 블랙웰 슈퍼칩(Superchip), GB200 NVL72를 포함하는 블랙웰 제품 라인업에 합류했다. 

통합 에코시스템

엔비디아의 포괄적인 파트너 에코시스템에는 세계 최고의 반도체 제조업체이자 엔비디아 파운드리 파트너인 TSMC를 비롯해 AI 팩토리 구축을 위한 핵심 구성요소를 제공하는 글로벌 전자제품 제조업체가 포함된다. 여기에는 서버 랙, 전원 공급 장치, 냉각 솔루션 등 제조 혁신 기술을 보유한 암페놀(Amphenol), 아시아 바이털 컴포넌트(Asia Vital Components, AVC), 쿨러 마스터(Cooler Master), CPC(Colder Products Company), 댄포스(Danfoss), 델타 일렉트로닉스(Delta Electronics), 라이트온(LITEON) 등의 회사가 포함된다. 

그 결과, 전 세계 기업의 요구를 충족하는 새로운 데이터센터 인프라를 신속하게 개발하고 배포할 수 있으며, 선도적인 시스템 제조업체인 델 테크놀로지스(Dell Technologies), 휴렛 팩커드 엔터프라이즈(Hewlett Packard Enterprise, HPE), 레노버(Lenovo)의 서버에서 블랙웰 기술, 엔비디아 퀀텀-2(Quantum-2) 또는 퀀텀-X800 인피니밴드(InfiniBand) 네트워킹, 엔비디아 스펙트럼™-X(Spectrum™-X) 이더넷 네트워킹, 엔비디아 블루필드®-3(BlueField®-3) DPU로 더욱 가속화할 수 있게 됐다. 

또한 기업들은 엔비디아 NIM™ 추론 마이크로서비스가 포함된 엔비디아 AI 엔터프라이즈 소프트웨어 플랫폼을 활용해 프로덕션급 생성형 AI 애플리케이션을 제작하고 실행할 수 있다. 

대만 기업들의 블랙웰 도입

젠슨 황은 기조연설에서 대만의 선도 기업들이 AI의 힘을 자사 비즈니스에 활용하기 위해 블랙웰을 빠르게 도입하고 있다고 발표했다. 

대만의 대표적인 의료기관인 CGMH(Chang Gung Memorial Hospital)은 엔비디아 블랙웰 컴퓨팅 플랫폼을 사용해 생물의학 연구를 발전시키고, 영상과 언어 애플리케이션을 가속화해 임상 워크플로우를 개선하고, 궁극적으로 환자 치료를 향상시킬 계획이다. 

세계 최대 전자제품 제조업체 중 하나인 폭스콘(Foxconn)은 엔비디아 그레이스 블랙웰을 사용해 AI 기반 전기 자동차와 로봇 플랫폼을 위한 스마트 솔루션 플랫폼을 개발하고, 고객에게 보다 개인화된 경험을 제공하기 위한 언어 기반 생성형AI 서비스를 확대할 계획이다. 

엔비디아 블랙웰과 MGX 플랫폼에 대한 보다 자세한 내용은 젠슨 황의 컴퓨텍스 기조연설에서 확인할 수 있다.

추가 인용문

암페놀 대표 겸 CEO인 R. 아담 노위트(R. Adam Norwitt)는 “엔비디아의 획기적인 AI 시스템에는 최신 인터커넥트 솔루션이 필요하며, 암페놀은 핵심 부품을 공급하게 된 것을 자랑스럽게 생각한다. 엔비디아의 풍부한 에코시스템의 중요한 파트너로서 우리는 블랙웰 가속기를 위한 매우 복잡하고 효율적인 인터커넥트 제품을 제공해 최첨단 성능을 제공할 수 있다”고 말했다. 

AVC 회장 겸 CEO인 스펜서 셴(Spencer Shen)은 “최신 그레이스 블랙웰 슈퍼칩을 비롯한 AI 하드웨어에 효율적인 냉각을 제공하는 AVC는 엔비디아 제품에서 핵심적인 역할을 담당하고 있다. AI 모델과 워크로드가 계속 증가함에 따라 집약적인 AI 컴퓨팅을 처리하기 위해서는 안정적인 열 관리가 중요하며, 우리는 모든 단계에서 엔비디아와 함께하고 있다”고 밝혔다. 

에이수스 회장인 조니 시(Jonney Shih)는 “에이수스는 컴퓨텍스에서 선보일 강력한 서버 라인업을 통해 엔터프라이즈 AI를 새로운 차원으로 끌어올리기 위해 엔비디아와 협력하고 있다. 엔비디아의 MGX와 블랙웰 플랫폼을 사용해 교육, 추론, 데이터 분석, HPC 전반에 걸쳐 고객의 워크로드를 처리하도록 구축된 맞춤형 데이터센터 솔루션을 구축할 수 있다”고 말했다. 

도버 코퍼레이션(Dover Corporation)의 CPC 대표인 자넬 위트마이어(Janel Wittmayer)는 “CPC의 혁신적인 특수 커넥터 기술은 AI 시스템에서 수냉식 엔비디아 GPU를 쉽고 안정적으로 연결할 수 있게 해준다. 성능과 품질에 대한 비전을 공유하는 CPC는 엔비디아의 놀라운 성장과 발전을 뒷받침하는 핵심 기술 부품을 공급할 수 있는 역량과 전문성을 갖추고 있다. CPC의 커넥터는 온도에 민감한 제품의 무결성을 유지하는 데 핵심적인 역할을 하며, 이는 AI 시스템이 컴퓨팅 집약적인 작업을 실행할 때 중요하다. 엔비디아 에코시스템의 일원이 돼 새로운 애플리케이션에 우리의 기술을 제공하게 돼 기쁘다”고 밝혔다. 

쿨러 마스터 CEO 앤디 린(Andy Lin)은 “가속 컴퓨팅에 대한 수요가 계속 급증함에 따라 최첨단 가속기를 활용하는 기업을 위한 에너지 표준을 효과적으로 충족하는 솔루션에 대한 수요도 증가하고 있다. 열 관리 솔루션의 선구자인 쿨러 마스터는 고객에게 놀라운 성능을 제공할 수 있는 엔비디아 블랙웰 플랫폼의 잠재력을 최대한 발휘할 수 있도록 돕고 있다”고 말했다. 

댄포스 CEO 킴 파우징(Kim Fausing)은 “댄포스의 혁신적인 고성능 퀵 디스커넥트와 유체 동력 설계에 중점을 둔 커플링은 데이터센터의 효율적이고 안정적이며 안전한 운영에 일조하고 있다. 엔비디아 AI 에코시스템의 중요한 일원으로서 환경에 미치는 영향을 최소화하면서 급증하는 AI 수요를 충족할 수 있는 데이터센터를 구현하기 위해 협업하고 있다”고 밝혔다. 

델타 일렉트로닉스 CEO 핑 쳉(Ping Cheng)은 “컴퓨팅 성능에 대한 광범위한 수요는 새로운 가속 성능 시대를 열었다. 델타는 첨단 냉각과 전력 시스템을 통해 엔비디아의 블랙웰 플랫폼이 에너지와 열 효율을 유지하면서 최고 성능 수준으로 작동할 수 있는 혁신적인 솔루션을 개발했다”고 말했다. 

기가바이트 부사장 겸 총괄 매니저 이테이 리(Etay Lee)는 “거의 30년에 걸친 협력을 통해 기가바이트는 GPU, CPU, DPU, 고속 네트워킹 전반에 걸쳐 엔비디아 기술을 지원하기 위해 최선을 다하고 있다. 기업들이 컴퓨팅 집약적인 워크로드에서 더욱 뛰어난 성능과 에너지 효율성을 달성할 수 있도록 다양한 블랙웰 기반 시스템을 시장에 출시하고 있다”고 밝혔다. 

혼하이 테크놀로지 그룹(Hon Hai Technology Group) 회장 겸 CEO인 류양웨이(Young Liu)는 “생성형 AI가 산업을 혁신함에 따라 폭스콘은 가장 다양하고 까다로운 컴퓨팅 요구 사항을 충족할 수 있는 최첨단 솔루션을 준비하고 있다. 우리는 자체 서버에 최신 블랙웰 플랫폼을 사용할 뿐만 아니라 엔비디아에 핵심 구성요소를 제공해 고객의 시장 출시 기간을 단축하고 있다”고 말했다. 

인벤텍 대표 잭 차이(Jack Tsai)는 “거의 반세기 동안 인벤텍은 전자 제품과 부품을 설계하고 제조해 왔으며 이는 우리의 핵심 사업이다. 엔비디아 그레이스 블랙웰 슈퍼칩으로 구동되는 엔비디아 MGX 랙 기반 솔루션을 통해 인벤텍은 고객이 새로운 AI 역량과 성능의 영역으로 진입할 수 있도록 돕고 있다”고 밝혔다. 

라이트온 테크놀로지 대표 앤슨 치우(Anson Chiu)는 “보다 친환경적이고 지속 가능한 데이터센터를 추구하는 트렌드에 따라 전력 관리와 냉각 솔루션이 주목받고 있다. 엔비디아 블랙웰 플랫폼의 출시와 함께 라이트온은 엔비디아 파트너들이 고효율, 친환경 데이터센터의 미래를 열어갈 수 있도록 다양한 액체 냉각 솔루션을 출시하고 있다”고 말했다. 

콴타 컴퓨터 회장 배리 램(Barry Lam)은 “우리는 전례 없이 혁신이 가속화되고 있는 AI 기반 세상의 중심에 서 있다. 엔비디아 블랙웰은 단순한 엔진이 아니라 이 산업 혁명에 불을 붙이는 불꽃이다. 차세대 생성형 AI의 시대를 정의하는 이 놀라운 여정에 콴타가 엔비디아와 함께 할 수 있는 것이 자랑스럽다. 우리는 함께 AI의 새로운 장을 형성하고 정의할 것”이라고 밝혔다. 

슈퍼마이크로 대표 겸 CEO인 찰스 리앙(Charles Liang)은 “슈퍼마이크로의 빌딩 블록 아키텍처와 랙 규모의 수냉식 솔루션은 자사의 엔지니어링 역량과 월 5,000개의 랙을 생산하는 글로벌 생산 능력과 결합해 전 세계 AI 팩토리에 다양한 엔비디아 AI 플랫폼 기반 제품을 신속하게 제공할 수 있게 해준다. 엔비디아 블랙웰 아키텍처 기반의 모든 제품에 최적화된 랙 스케일 디자인의 수냉식 또는 공냉식 고성능 시스템을 통해 고객은 차세대 컴퓨팅에 대한 요구 사항을 충족할 수 있는 놀라운 플랫폼 선택권을 갖게 될 뿐만 아니라 AI의 미래를 향한 큰 도약을 이룰 수 있다”고 말했다. 

TSMC CEO C.C. 웨이는 “TSMC는 엔비디아와 긴밀히 협력해 반도체 혁신의 한계를 뛰어넘어 AI 비전을 실현하기 위해 노력하고 있다. TSMC의 업계 최고 반도체 제조 기술은 블랙웰 아키텍처 기반 GPU를 비롯한 엔비디아의 획기적인 GPU를 만드는 데 기여했다”고 밝혔다. 

위스트론 CEO 제프 린(Jeff Lin)은 “엔비디아의 핵심 제조 파트너인 위스트론은 GPU 컴퓨팅 기술과 AI 클라우드 솔루션을 고객에게 제공하는 놀라운 여정을 함께 해왔다. 이제 우리는 블랙웰, MGX와 같은 엔비디아의 최신 GPU 아키텍처와 레퍼런스 설계를 통해 엄청난 새로운 AI 컴퓨팅 제품을 시장에 빠르게 출시할 수 있게 됐다”고 말했다. 

위윈 대표 윌리엄 린(William Lin)은 “위윈은 생성형 AI 시대에 대규모 컴퓨팅 성능과 고급 냉각 솔루션에 대한 고객의 수요 증가에 대응하는 데 주력하고 있다. 엔비디아 그레이스 블랙웰과 MGX 플랫폼 기반의 최신 라인업을 통해 하이퍼스케일 클라우드 제공업체와 기업의 까다로운 워크로드에 맞게 최적화된 랙 수준의 수냉식 AI 서버를 구축하고 있다”고 밝혔다.