기업 AI 배포 간소화, 엔비디아 OVX 컴퓨팅 시스템을 위한 새로운 스토리지 파트너 검증 프로그램 도입

엔비디아(www.nvidia.co.kr)가 엔비디아 OVX(NVIDIA OVX) 컴퓨팅 시스템을 위한 새로운 스토리지 파트너 검증 프로그램을 도입했다고 발표했다.  

엔비디아 OVX 스토리지 검증을 완료하는 데 선두에 서 있는 고성능 스토리지 시스템으로는 DDN, 델 파워스케일(Dell PowerScale), 넷앱(NetApp), 퓨어스토리지(Pure Storage), WEKA가 있다.  

생성형 AI 배포가 급격히 증가하면서 생성형 AI는 산업 전반에서 기업의 비즈니스 혁신을 주도하고 있다. 하지만 길고 복잡한 인프라 배포 주기로 시간이 많이 소요되기 때문에 기업의 IT 팀은 자사 데이터를 사용해 AI 워크로드를 신속히 가동하지 못하는 어려움을 겪고 있다. 

엔비디아 OVX 서버는 고성능 GPU 가속 컴퓨팅과 고속 스토리지 액세스와 저지연 네트워킹을 결합했다. 이를 통해 다양하고 복잡한 AI 및 고해상도 그래픽 워크로드를 처리한다. 예를 들어 챗봇, 요약 및 검색 도구 등에는 대량의 데이터가 필요하며 시스템 처리량을 최대화하기 위해 고성능 스토리지가 필수적이다. 

이 새로운 프로그램은 기업이 적합한 스토리지를 엔비디아 인증 OVX 서버와 결합할 수 있도록, 파트너가 스토리지 어플라이언스를 검증할 수 있는 표준화된 프로세스를 제공한다. 파트너는 엔비디아 DGX 베이스팟(BasePOD) 레퍼런스 아키텍처용 스토리지를 검증하는 데 필요한 동일한 프레임워크와 테스트를 사용할 수 있다. 

파트너는 검증을 달성하기 위해 일련의 엔비디아 테스트를 완료해야 한다. 이 테스트는 다양한 엔터프라이즈 AI 작업의 요구 사항을 나타내는 여러 매개변수를 통해 스토리지 성능 및 입/출력 확장을 측정한다. 여기에는 다양한 I/O 크기, 다양한 스레드(thread) 수, 버퍼링된 I/O와 직접 I/O, 랜덤 읽기, 다시 읽기 등의 조합이 포함된다. 

각 테스트는 결과를 검증하고 필수적인 데이터를 수집하기 위해 여러 번 실행되며, 엔비디아 엔지니어링 팀은 감사를 통해 스토리지 시스템의 테스트 통과 여부를 결정한다. 

이 프로그램은 엔비디아 OVX 시스템을 통한 엔터프라이즈 AI 작업을 위해 최적의 스토리지 성능과 확장성을 보장하는 규범적 지침을 제공한다. 그러나 전반적인 설계는 유연하게 유지되므로 고객은 기존 데이터센터 환경에 맞게 시스템과 스토리지를 맞춤화하고 데이터가 있는 모든 곳에 가속화된 컴퓨팅을 제공할 수 있다. 

생성형 AI 사용 사례는 기존의 엔터프라이즈 애플리케이션과는 근본적으로 요구 사항이 다르기 때문에 IT 팀은 고성능과 확장성을 보장하기 위해 컴퓨팅, 네트워킹, 스토리지 및 소프트웨어를 신중하게 선택해야 한다. 

엔비디아 인증 시스템(NVIDIA-Certified Systems)은 AI 워크로드를 위한 엔터프라이즈급 성능, 관리 용이성, 보안과 확장성을 제공하기 위해 테스트와 검증이 거쳐졌다. 이 시스템의 유연한 레퍼런스 아키텍처를 사용하면 처음부터 독립적으로 구축하는 경우보다 더 빠르고 효율적이며 비용 효율적으로 배포할 수 있다. 

엔비디아 L40S GPU로 구동되는 OVX 서버에는 엔비디아 퀀텀-2 인피니밴드(Quantum-2 InfiniBand) 또는 엔비디아 스펙트럼-X(Spectrum-X) 이더넷 네트워킹을 갖춘 엔비디아 AI 엔터프라이즈(AI Enterprise) 소프트웨어와 엔비디아 블루필드-3 DPU(BlueField-3 DPUs)가 포함된다. 이 제품은 소규모 LLM(예: 라마 2 (Llama2) 7B 또는 70B)을 위한 훈련, 기존 모델 미세 조정, 높은 처리량과 짧은 지연 시간으로 추론 등 생성형 AI 워크로드에 최적화돼 있다. 

현재 기가바이트(GIGABYTE), 휴렛팩커드 엔터프라이즈(Hewlett Packard Enterprise), 레노버(Lenovo)를 비롯한 글로벌 시스템 공급업체에서 엔비디아 인증 OVX 서버를 구매, 배송이 가능하다. 각 시스템 빌더는 엔비디아와 협력해 이러한 서버에 대한 포괄적인 엔터프라이즈급 지원을 제공한다. 

이용 가능성

엔비디아 인증 OVX 서버용 검증된 스토리지 솔루션은 현재 사용 가능하며, 각 스토리지와 시스템 공급업체는 향후 몇 주에 걸쳐 레퍼런스 아키텍처를 공개할 예정이다. 여기에서 엔비디아 OVX 시스템에 대해 확인할 수 있다.