[GTC 2022] 호퍼 아키텍처 · H100 GPU · 옴니버스등 발표, 엔비디아 GTC 2022서 다양한 최신 소식 공개

엔비디아(www.nvidia.co.kr, CEO 젠슨 황)는 세계 최대의 AI 개발자 컨퍼런스인 GTC 2022에서 엔비디아 CEO 젠슨 황(Jensen Huang)의 비전을 공유하고, 새로운 호퍼(Hopper) GPU 아키텍처와  H100 GPU, AI와 가속 컴퓨팅 소프트웨어, 강력한 신규 데이터센터 규모 시스템을 포함한 신제품 칩을 소개했다.

GTC 2022 기조연설에서 엔비디아 CEO 젠슨 황(Jensen Huang)은 AI의 놀라운 발전에 주목하며 AI와 옴니버스(Omniverse)가 현실 세계와 가상 세계를 어떻게 결합하고 있는지 설명했다. 이어 수조 달러 규모의 산업을 혁신하고 이 시대의 ‘대과제’을 해결하겠다고 약속하며, 인텔리전스가 산업 규모로 생성되고 실제와 가상 세계로 통합되는 시대에 대한 비전을 공유했다.

젠슨 황은 "기업들이 데이터를 처리 및 정제하고, AI 소프트웨어를 만들고, 인텔리전스 제조업체가 되고 있다"며 실시간 3D 협업 및 시뮬레이션 플랫폼인 엔비디아 옴니버스(NVIDIA Omniverse)의 가상 환경에서 AI가 어떻게 모든 영역에서 발전하고 있는지에 대해 설명했다. 

이번 콘퍼런스에는 아메리칸 익스프레스(American Express), 도어대시(DoorDash), 링크드인(LinkedIn), 핀터레스트(Pinterest), 세일즈포스(Salesforce), 서비스나우(ServiceNow), 스냅(Snap), 비자(Visa)와 같은 기업에서 온 1,600명 이상의 연사와 200,000명의 등록된 참석자가 모였다. 

젠슨 황의 프레젠테이션은 최첨단 로보틱스 프로젝트를 수행하는 연구실을 포함해 옴니버스에서 렌더링된 엔비디아 새 캠퍼스의 멋진 플라이스루 영상으로 시작됐다. 젠슨 황은 엔비디아가 광범위한 에코시스템과 협력해 헬스케어와 약물 탐지의 발전을 고도화하고 환경 보호를 도움으로써 생명을 구하는 방법에 대해 발표했다.

젠슨 황은 "과학자들은 지역 기후 변화를 효과적으로 시뮬레이션하려면 현재보다 10억 배 더 큰 슈퍼컴퓨터가 필요하다고 예측한다. 엔비디아는 세계 최초의 AI 디지털 트윈 슈퍼컴퓨터인 얼스-2(Earth-2)로 이 거대한 도전을 해결하고, 더 늦기 전에 10억 배의 성능을 제공하기 위해 새로운 AI와 컴퓨팅 기술을 발명할 것"이라고 말했다.

새로운 실리콘 칩 엔비디아 H100: "세계 AI 인프라의 새로운 엔진" 

젠슨 황은 호퍼 아키텍처를 기반으로 한 엔비디아 H100을 ‘세계 AI 인프라의 새로운 엔진’으로 소개하며, 스피치, 대화, 고객 서비스, 추천 시스템과 같은 AI 애플리케이션이 데이터센터 설계의 근본적인 변화를 주도하고 있다고 설명했다. 

젠슨 황은 "AI 데이터센터는 AI 모델을 훈련하고 개선하기 위해 엄청난 양의 연속 데이터를 처리한다. 원시 데이터가 들어오고 정제돼 인텔리전스가 되어 나간다. 기업들은 인텔리전스를 제조하는 거대한 AI 공장을 운영하고 있다"고 말했다. 

AI 공장은 365일 24시간 가동되고 있으며, 약간의 품질 개선으로도 고객 참여와 회사 수익이 크게 증가한다. H100은 이러한 공장 가동 가속화를 돕는다. 무려 800억 개의 트랜지스터가 탑재된 칩은 TSMC의 4N 프로세스를 사용한다. 

젠슨 황은 "A100보다 9배 높은 대규모 훈련 성능과 30배 높은 대규모 언어 모델 추론 처리량을 제공하는 호퍼 H100은 역대 최대의 세대 도약을 이룬 제품"이라고 말했다.

호퍼는 정확성은 유지하면서 네트워크 속도를 6배 높일 수 있는 새로운 트랜스포머(Transformer) 엔진을 비롯한 기술 혁신으로 가득하다. 젠슨 황은 "트랜스포머 모델 훈련을 몇 주에서 며칠로 단축할 수 있다"며, H100은 현재 생산 중이며 3분기에 출시될 예정이라고 밝혔다. 

또한 젠슨 황은 고성능 컴퓨팅을 위한 엔비디아 최초의 개별 데이터센터 CPU인 그레이스 CPU 슈퍼칩(Grace CPU Superchip)을 발표했다. 젠슨 황은 초당 900GB의 NVLink 칩 투 칩 인터커넥트(chip-to-chip interconnect)를 통해 연결된 두 개의 CPU 칩으로 초당 1TB의 메모리 대역폭을 가진 144코어 CPU를 만들었다고 설명하며, "그레이스는 전 세계 AI 인프라에 이상적인 CPU”라고 강조했다.

젠슨 황은 또한 새로운 호퍼 GPU 기반 AI 슈퍼컴퓨터인 DGX H100, H100 DGX POD, DGX 슈퍼(Super)POD도 발표했다. 모든 것을 연결하기 위해 엔비디아의 새로운 NVLink 고속 인터커넥트 기술이 CPU, GPU, DPU, SOC와 같은 미래의 모든 엔비디아 칩에 적용될 것이라고 부연했다. 

아울러 엔비디아는 고객과 파트너가 컴패니언 칩(companion chip)을 구축할 수 있도록 NVLink를 제공할 것이라고 밝혔다. 젠슨 황은 "NVLink는 고객이 엔비디아의 플랫폼과 에코시스템을 활용하는 세미 커스텀 칩과 시스템을 구축할 수 있는 새로운 기회의 세계를 열어줄 것"이라고 말했다.

새로운 소프트웨어 — AI가 소프트웨어를 "근본적으로 변화"시키고 있다 

젠슨 황은 가속 컴퓨팅으로 가속화된 AI의 발전이 "놀랍다"고 표현하며, "AI는 소프트웨어가 만들 수 있는 것과 소프트웨어를 만드는 방법을 근본적으로 변화시켰다”고 말했다.

트랜스포머는 자기 지도 학습을 시작했으며 인간이 레이블한 데이터의 필요성을 걷어내고 있다. 그 결과 트랜스포머는 점점 더 다양한 분야에서 활용되고 있다.

젠슨 황은 "트랜스포머는 자기 지도 학습을 실현했고, AI 성능은 매우 빠르게 도약했다"며, 언어 이해를 위한 구글(Google) BERT, 신약 개발을 위한 엔비디아 메가몰바트(NVIDIA MegaMolBART), 딥마인드 알파폴드2(DeepMind AlphaFold2)는 모두 트랜스포머에서 유래한 혁신이라고 말했다.

젠슨 황은 자연어 이해, 물리학, 창의적인 디자인, 캐릭터 애니메이션, 심지어 NVCell을 사용하는 칩 레이아웃을 위한 새로운 딥 러닝 모델을 소개했다.

젠슨 황은 "AI는 새로운 아키텍처, 새로운 학습 전략, 더 크고 강력한 모델, 새로운 과학, 새로운 애플리케이션, 새로운 산업 등 모든 방향에서 동시에 도약하고 있다"고 말했다. 아울러 엔비디아는 AI의 새로운 혁신을 가속화하고 모든 산업에 AI와 머신 러닝의 채택을 가속화하기 위해 "전력을 다하고 있다"고 말했다.

트리톤 인퍼런스 서버(Triton Inference Server), 대규모 언어 모델 교육을 위한 니모 메가트론(NeMo Megatron) 0.9 프레임워크, 오디오와 비디오 품질 향상을 위한 맥신(Maxine) 프레임워크를 포함해 엔비디아 AI 플랫폼에 대한 주요 업데이트가 진행 중이다. 

이 플랫폼에는 엔비디아가 최적화와 인증을 완료하고 현재 모든 주요 데이터센터와 클라우드 플랫폼에서 지원되고 있는 엔드 투 엔드(end-to-end) 클라우드 네이티브 AI, 데이터 분석 도구와 프레임워크 제품군인 엔비디아 AI 엔터프라이즈 2.0이 포함된다.

젠슨 황은 "이번 GTC에서 우리는 60개의 SDK를 업데이트했다. 3백만 명의 개발자, 과학자, AI 연구원, 수만 개의 스타트업과 기업을 위해 여러분이 사용하는 동일한 엔비디아 시스템이 더욱 빨라졌다. 엔비디아 SDK는 헬스케어, 에너지, 운송, 소매, 금융, 미디어, 엔터테인먼트에 서비스를 제공하고 있다"고 말했다. 

엔비디아 AI 소프트웨어와 가속 컴퓨팅 SDK는 현재 세계 최고의 기업 중 일부가 사용하고 있다. 

마이크로소프트 트랜스레이터(Microsoft Translator)는 엔비디아 트리톤(NVIDIA Triton)이 제공하는 실시간 번역 기능으로 글로벌 커뮤니케이션을 가속화한다.

AT&T는 수조 개의 기록을 더 쉽게 처리할 수 있도록 돕는 엔비디아 래피즈(NVIDIA RAPIDS) 소프트웨어로 데이터 사이언스 팀 업무를 가속화한다.

'차세대 진화': 가상 세계를 위한 옴니버스

젠슨 황은 "광범위한 규모로 확장된 디지털 트윈은 물리적 세계와 연결된 가상 세계다. 그리고 인터넷의 맥락에서 이는 차세대 진화"라고 말했다.

디지털 트윈 구축을 위한 엔비디아 옴니버스 소프트웨어와 새로운 데이터센터 규모 엔비디아 OVX 시스템은 ‘행동 지향 AI’에 필수적이다.

젠슨 황은 옴니버스의 새로운 릴리스와 업데이트를 발표하면서, “옴니버스는 우리 로보틱스 플랫폼의 핵심이다. 나사(NASA)와 아마존(Amazon)과 마찬가지로, 로보틱스와 산업 자동화 분야의 고객들과 엔비디아는 디지털 트윈과 옴니버스의 중요성을 인식하고 있다"고 말했다.

OVX는 동일한 시공간에서 작동하는 여러 자율 시스템을 사용하는 대규모 시뮬레이션을 위해 옴니버스 디지털 트윈을 실행할 예정이다.

젠슨 황은 엔비디아 스펙트럼-4(Spectrum-4) 고성능 데이터 네트워킹 인프라 플랫폼을 발표하면서 OVX의 백본은 네트워킹 패브릭이라고 설명했다. 세계 최초의 400Gbps 엔드 투 엔드 네트워킹 플랫폼인 엔비디아 스펙트럼-4는 스펙트럼-4 스위치 제품군, 엔비디아 커넥트X-7 스마트NIC(ConnectX-7 SmartNIC), 엔비디아 블루필드-3(BlueField-3) DPU, 엔비디아 도카(DOCA) 데이터센터 인프라 소프트웨어로 구성된다.

더 많은 사용자가 옴니버스에 액세스할 수 있도록 하는 옴니버스 클라우드(Cloud)도 발표됐다. 이를 사용해 공동 작업자들은 몇 번의 클릭만으로 클라우드의 옴니버스를 통해 연결될 수 있다. 

젠슨 황은 가상 세계를 구축하기 위해 협업하는 4명의 디자이너(그중 하나는 AI)가 참여하는 데모를 통해 작동 방법을 시연했다.

젠슨 황은 또한 아마존이 옴니버스 엔터프라이즈(Enterprise)를 사용해 ‘풀필먼트 센터 운영을 설계하고 최적화하는 방법’도 소개하며, "현대의 풀필먼트 센터는 놀라운 기술력으로 인간과 로봇이 함께 작업하는 시설로 진화하고 있다"고 말했다. 

'차세대 AI': 로봇과 자율주행 자동차 

젠슨 황은 새로운 실리콘 칩, 소프트웨어, 시뮬레이션 기능을 통해 로봇이 "개발, 계획, 행동할 수 있는 차세대 AI 시대”를 가져올 것이라고 예측했다.

엔비디아 아바타(Avatar), 드라이브(DRIVE), 메트로폴리스(Metropolis), 아이작(Isaac), 홀로스캔(Holoscan)은 ‘4대 요소’인 실측 데이터 생성, AI 모델 교육, 로봇 스택, 옴니버스 디지털 트윈을 중심으로 엔드 투 엔드와 풀스택으로 구축된 로보틱스 플랫폼이다.

젠슨 황은 엔비디아 드라이브(DRIVE) 자율주행 자동차 시스템은 본질적으로 ‘AI 운전기사’라고 말했다. 엔비디아 드라이브가 구축된 엔비디아의 자율주행 자동차용 하드웨어 아키텍처인 하이페리온 8(Hyperion 8)은 360도 카메라, 레이더, 라이더, 초음파 센서 제품군을 통해 완전 자율주행을 구현할 수 있다. 젠슨 황은 하이페리온 8이 2024년부터 메르세데스-벤츠(Mercedes-Benz) 차량에 탑재될 예정이며, 2025년에는 재규어 랜드로버(Jaguar Land Rover)에 탑재될 것이라고 밝혔다. 

젠슨 황은 차세대 전기차(EV), 로보택시, 셔틀, 자동차의 엔진 역할을 하는 중앙 집중식 AV, AI 컴퓨터인 엔비디아 오린(Orin)의 출하가 이번 달에 시작됐다고 발표했다.

또한 젠슨 황은 2026년 출시 예정으로, 현재의 드라이브 오린 기반 아키텍처보다 두 배 높은 성능을 제공하는 신형 드라이브 아틀란(Atlan) SoC)를 탑재한 하이페리온 9을 발표했다.

젠슨 황은 세계 2위의 전기차 제조업체인 BYD가 2023년 상반기 생산을 시작하는 자동차에 드라이브 오린 컴퓨터를 도입할 것이라고 발표했다. 

또한 루시드 모터스(Lucid Motors)는 자사의 드림드라이브 프로(DreamDrive Pro) 고급 드라이버 지원 시스템이 엔비디아 드라이브를 기반으로 구축됐다고 밝혔다.

전체적으로 엔비디아의 자동차 파이프라인은 향후 6년간 110억 달러 이상으로 증가했다.

클라라 홀로스캔(Clara Holoscan)은 RF 초음파, 4K 수술 영상, 높은 처리량의 카메라와 레이저와 같은 의료 기기와 실시간 센서를 지원하는 작업에 드라이브에 사용되는 실시간 컴퓨팅의 상당 부분을 투입한다. 

젠슨 황은 홀로스캔이 라이트 시트(light-sheet) 현미경으로 이미지를 가속하는 영상을 공개했는데, 이는 세포들이 움직이고 분열하는 ‘영화’를 만들어 냈다. 이러한 의료 기기가 한 시간 내에 생성하는 3TB의 데이터를 처리하려면 일반적으로 꼬박 하루가 소요된다. 그러나 UC 버클리 대학의 고급 바이오 이미징 센터(Advanced Bio Imaging Center)에서는 홀로스캔을 사용하는 연구원들이 실시간으로 데이터를 처리할 수 있어, 실험이 진행되는 동안 현미경의 초점을 자동으로 맞출 수 있다. 

홀로스캔 개발 플랫폼은 현재 얼리 액세스 고객을 위해 제공되며 일반 출시는 5월, 의료용 출시는 2023년 1분기로 계획돼 있다.

엔비디아는 또한 제조, 소매, 헬스케어, 농업, 건설, 공항, 도시 전체를 위한 로봇을 제작하는 수천 명의 고객 및 개발자들과 협력 중에 있다고 밝혔다. 

엔비디아의 로보틱스 플랫폼은 메트로폴리스(Metropolis)와 아이작(Isaac)으로 구성돼 있다. 메트로폴리스는 움직이는 물체를 추적하는 고정형 로봇이며, 아이작은 움직이는 물체를 추적하는 플랫폼이다. 

로봇이 공장이나 창고와 같은 실내 공간을 탐색할 수 있도록 지원하기 위해 엔비디아는 이동형 자율 로봇 개발, 구현을 가속화하는 최첨단 컴퓨팅, 센서 참조 플랫폼인 젯슨 AGX 오린을 기반으로 하는 아이작 노바(Nova) 오린을 발표했다. 

젠슨 황은 영상을 통해 펩시코(PepsiCo)가 어떻게 메트로폴리스와 옴니버스 디지털 트윈을 함께 사용하는지 공개했다. 

4개 계층, 5가지 다이내믹 

엔비디아는 하드웨어, 시스템 소프트웨어와 라이브러리, 소프트웨어 플랫폼(엔비디아 HPC, 엔비디아 AI, 엔비디아 옴니버스), AI와 로보틱스 애플리케이션 프레임워크의 4개 계층 스택에 걸쳐 신제품을 발표했다.

젠슨 황은 업계를 형성하는 5가지 다이내믹, 즉 컴퓨팅 속도 백만 배 향상, 트랜스포머 성능을 높이는 AI, 로보틱스 시스템 수요가 기하급수적으로 증가하면서 AI 공장으로 전환되고 있는 데이터센터, 차세대 AI 시대를 위한 디지털 트윈을 소개했다.

젠슨 황은 "엔비디아는 풀스택과 데이터센터 규모 가속화를 통해 향후 10년 내에 또 다른 백만 배 도약을 목표로 노력할 것이다. 다음 백만 배의 성능 향상이 어떤 결과를 가져올지 무척 기대된다"고 말했다. 

마지막으로 젠슨 황은 옴니버스가 ‘오늘 보여준 모든 렌더링과 시뮬레이션’을 생성했다는 점을 강조하면서, 엔비디아의 크리에이티브 팀이 제작한 멋진 영상을 공개했다. 영상에는 엔비디아 캠퍼스에서 벌어지는 환상적인 뮤지컬 재즈곡 연주와 함께 젠슨 황의 디지털 아바타인 토이 젠슨(Toy Jensen)이 카메오로 등장했다.