엔비디아 EGX 엣지 AI 플랫폼, 세계 유수 기술 기업들 채택 가속화

엔비디아(www.nvidia.co.kr, CEO 젠슨 황)가 세계 유수의 기술 기업들이 엔비디아 EGX 엣지(edge) AI 플랫폼을 광범위하게 채택하여 엔터프라이즈 및 엣지(edge) 데이터센터에 새로운 수준의 보안, GPU 가속 소프트웨어, 서비스 및 서버를 구현하고 있다고 밝혔다. 

수백여 비전 AI, 5G, 클라우드RAN(CloudRAN), 보안 및 네트워킹 업체들은 델 테크놀로지스(Dell Technologies) 인스퍼(Inspur), 레노버(Lenovo), 슈퍼마이크로(Supermicro)를 비롯한 주요 서버 제조업체는 물론, 캐노니칼(Canonical), 클라우데라(Cloudera), 레드햇(Red Hat), SUSE, VM웨어(VMware)를 비롯한 선도적인 소프트웨어 인프라 제공업체들과 협력해 기업들이 엔비디아 EGX 플랫폼을 통해 엣지에서 AI를 수행하도록 돕고 있다. 

제조, 의료, 소매, 물류, 농업, 통신, 공공 안전, 미디어 등 세계 최대 산업은 EGX 플랫폼의 이점을 활용해 규모에 맞는 AI를 신속하고 효율적으로 구현할 수 있다.

엔비디아는 또한 EGX 플랫폼을 단일 PCIe 카드에 엔비디아 암페어(Ampere) GPU 및 블루필드-2(BlueField-2) DPU 기능을 결합하도록 확장해 기업들이 안전하고 가속화된 데이터센터를 구축하도록 돕는 공통 플랫폼을 제공한다고 발표했다. 블루필드-2 DPU에는 GPU에서 실행되는 AI 추론 모델에 대해 신뢰할 수 있는 엔클로저를 만드는 데 사용할 수 있는 강력한 Arm CPU 코어가 포함돼 있다.

GPU 기술 컨퍼런스(GTC) 기조연설에서 이 소식을 공개한 젠슨 황(Jensen Huang) 엔비디아 창립자 겸 CEO는 "전 세계 기업들이 AI를 활용해 사실상 비즈니스의 모든 측면을 개선하게 될 것으로 예상된다. 엔비디아는 이 같은 대규모 전환을 지원하기 위해 기업들이 데이터센터를 현대화하고 AI를 어디에나 배치할 수 있도록 돕는 가속 컴퓨팅 플랫폼을 개발했다”고 설명했다.

엣지 및 데이터센터를 위한 최적화된 AI 소프트웨어

EGX 플랫폼의 중심에는 엔비디아 NGC에서 이용할 수 있는 최적화된 AI 소프트웨어 스택이 있다. 엔비디아 NGC는 엔비디아 인증 시스템 상에 AI 애플리케이션을 보다 쉽게 구축 및 배치할 수 있도록 하는 다양한 산업별 AI 툴킷과 사전 교육된 모델을 제공하는 소프트웨어 카탈로그다.

엔비디아 AI 애플리케이션 프레임워크는 딥노스(Deep North), 에버신(Everseen), 화이트보드 코디네이터(Whiteboard Coordinator) 등 선도적인 AI 소프트웨어 벤더들이 헬스케어, 소매, 물류, 스마트시티 솔루션을 구축 및 배포하는데 활용되고 있다. 

엔비디아 vGPU 소프트웨어 제품과 GPUDirect RDMA 기술은 엔비디아 GPU가 최대 대역폭에서 데이터를 주고받을 수 있는 기능을 제공해 뛰어난 성능을 구현하도록 한다.

엔비디아는 기업들이 AI를 규모에 맞게 구현할 수 있도록 캐노니칼(Canonical), 클라우데라(Cloudera), 레드햇(Red Hat), SUSE, VM웨어(VMware) 등을 포함한 유수의 플랫폼 기업과 협력해 자사의 주력 가상화, 운영체제, 쿠버네티스(Kubernetes) 및 데이터 분석 플랫폼이 베어 메탈 또는 가상화 환경에서 실행될 때 엔비디아 AI 소프트웨어에 완전히 최적화 되도록 한다.

어디서나 EGX 서버 구축 및 관리가 가능해져 미래의 엔터프라이즈 데이터센터는 1만 대의 서버를 한 곳에 두는 대신, 사무실 건물, 공장, 창고, 기지국, 학교, 상점 및 은행을 포함한 1만개의 서로 다른 로케이션에 1대 이상의 서버를 두게 될 것이다.

NVIDIA는 이러한 대규모 서버에서 AI 애플리케이션과 모델의 구축 및 관리를 단순화하고 안전하게 하기 위해 엔비디아 플릿 커맨드(NVIDIA Flatt Command)라는 새로운 서비스의 조기 액세스 프로그램을 발표했다. 이 하이브리드 클라우드 플랫폼은 엣지 컴퓨팅의 보안 및 실시간 처리 기능과 서비스로서의 소트프웨어(SaaS)가 지닌 원격 관리 및 용이성을 결합한 플랫폼이다.

플릿 커맨드는 통합관제기를 통해 공장, 병원, 소매점, 심지어 시내 거리 등 광활한 지역에 분산된 서버 관리를 중앙집중화한다. 플릿 커맨드의 원터치 프로비저닝, 무선 소프트웨어 업데이트, 원격 관리 및 세부 모니터링 대시보드를 통해 운영자들은 IT의 부담을 줄여 AI 애플리케이션의 활용성과 운영 효율성을 극대화할 수 있다. 

플릿 커맨드에 조기 액세스할 수 있는 첫 번째 기업으로는 글로벌 공급망 솔루션의 선두주자인 KION 그룹이 있는데, 이 회사는 엔비디아 EGX AI 플랫폼을 이용해 자사의 지능형 웨어하우스 시스템을 위한 AI 애플리케이션을 개발하여 소매 유통 센터의 처리량과 효율성을 높이고 있다.

또한, 미 일리노이 주 최대 병원인 노스웨스턴 메모리얼 병원은 화이트보드 코디네이터와 협력하여 사물인터넷(IoT) 센서 플랫폼에 플릿 커맨드를 사용하고 있는데, 이 플랫폼에는 컴퓨터 비전, 음성 인식, 블루투스 추적 기능이 포함되어 있다.

앤드류 고스틴(Andrew Gostine) 화이트보드 코디네이터 CEO는 “화이트보드 코디네이터는 선도적인 헬스케어 제공업체들과 협력해 그들이 언제 어디서나 클라우드에서 애플리케이션, 서버, 소프트웨어 배포를 구성할 수 있도록 하고 있다. 엔비디아 플릿 커맨드를 사용해 몇 번의 클릭만으로 여러 병원에 의료 AI 애플리케이션 제품군을 원격으로 배포하고 안전하게 관리하고 있다. 이는 우리가 인프라 관리에 시간을 소비하는 대신 환자에게 가치를 제공하는 데 더 집중할 수 있도록 하고 있다”고 설명했다.

한편 엔비디아 EGX 시스템은 엔비디아 인증 서버 카탈로그를 통해 구매할 수 있다. 엔비디아 AI 소프트웨어를 지원하는 기존 서버들은 아수스(ASUS), 아토스(Atos), 델 테크놀로지스(Dell Technologies), 후지쯔(Fujitsu), 기가바이트(GIGABYTE), H3C, 인스퍼(Inspur), 레노버(Lenovo), 콴타(Quanta/QCT),

슈퍼마이크로(Supermicro)를 통해 이용 가능하다. 엔비디아 플릿 커맨드 조기 액세스 프로그램은 자격을 갖춘 고객들에게 제공된다.