AI 및 ML 데이터 파이프라인에 최적화, 슈퍼마이크로 AI 스토리지용 랙 규모 토탈 솔루션 출시

AI/ML, 클라우드, 스토리지 및 5G/Edge를 위한 토탈 IT 솔루션의 글로벌 리더 슈퍼마이크로컴퓨터(Super Micro Computer, Inc.(SMCI), 이하 슈퍼마이크로)가 데이터 수집부터 고성능 데이터 전송까지 AI 및 ML 데이터 파이프라인에 최적화된 풀스택 스토리지 솔루션을 출시했다.  

AI 스토리지용 랙 규모 토탈 솔루션은 GPU 데이터 파이프라인을 완전히 포화 상태로 유지해 AI 활용 시간을 최대화한다. 또한, AI 학습을 위해 페타급 수준의 방대한 원시 데이터를 수집 및 변환하고, 조직의 AI 워크플로 파이프라인에 불러올 수 있다. 새로운 슈퍼마이크로 솔루션 제품군은 프로덕션 환경에서 AIOps 및 MLOps를 위해 페타바이트 단위의 데이터를 제공하는 것으로 입증됐다. 슈퍼마이크로의 모든 랙 규모의 솔루션은 구현 위험 감소, 조직의 모델 학습 속도 향상, AI 추론에 빠른 결과 데이터 활용이 가능하도록 설계되었다.

찰스 리앙(Charles Liang) 슈퍼마이크로 사장 겸 CEO는 “20 페타바이트 규모의 고성능 플래시 스토리지 랙은 애플리케이션에 최적화된 엔비디아 HGX H100 8-GPU 기반 공랭식 서버 4대 또는 엔비디아 HGX H100 8-GPU 기반 수냉식 서버 8대를 구동한다. 그 결과, 고객은 랙 규모로 실행되는 AI 및 ML 애플리케이션을 가속화할 수 있다”며, “새로운 솔루션은 가장 작은 규모로 구축했을 때 스토리지 클러스터당 270GB/s의 읽기 처리량과 390만 IOPS를 제공 가능하며, 수백 페타바이트까지 쉽게 확장할 수 있다”고 설명했다. 

그는 이어 “최신 슈퍼마이크로 시스템 중 PCIe 5.0 및 E3.S 스토리지 장치와 WEKA 데이터 플랫폼 소프트웨어가 포함된 제품을 이용한다면, 사용자는 현장 테스트를 거친 랙 스케일 솔루션을 통해 AI 애플리케이션의 성능이 크게 향상되는 것을 확인 가능하다. 슈퍼마이크로의 AI 훈련용 신규 스토리지 솔루션 출시로 인해 고객은 최첨단 랙스케일 GPU 서버 솔루션의 활용도를 극대화할 수 있다. 또한, TCO감축 및 AI 성능 향상이 가능하다”고 덧붙였다. 

대규모 AI 훈련 처리에 사용되는 페타바이트 단위의 비정형 데이터는 GPU 생산성 유지를 위해 지연 시간이 짧고 대역폭이 높은 GPU 서버에서 사용할 수 있어야 한다. 인텔 및 AMD 기반 스토리지 서버로 구성된 슈퍼마이크로의 광범위한 포트폴리오는 AI 파이프라인의 핵심 요소이다. 여기에는 서버당 983.04TB(원시 값은 벤더 원시 기본 용량인 30.72TB를 기준으로 한다. TB는 10진수이다. 30.72TB E3.S SSD의 가용성은 공급업체에 따라 달라질 수 있다.)의 NVMe Gen 5 플래시 용량을 갖추고, 최대 230GB/s 읽기 대역폭(read bandwidth) 및 3천만 IOPS를 제공하는 슈퍼마이크로 페타급 올플래시 스토리지 서버가 포함된다. 또한 새로운 솔루션에는 용량 오브젝트 계층을 위한 슈퍼마이크로 슈퍼서버 90 드라이브 베이 스토리지 서버도 속해 있다. 해당 솔루션은 ML, GenAI 등처럼 복잡한 컴퓨팅 워크로드를 처리하는 전 세계 사용자를 위해 테스트를 거쳐 완전한 상태로 출시 됐다.

조나단 마틴(Jonathan Martin) WEKA 사장은 “슈퍼마이크로의 올플래시 페타급 스토리지 서버는 고성능 및 대용량 플래시 용량을 갖춰 WEKA의 AI 기반 데이터 플랫폼 소프트웨어를 완벽하게 보완한다. 두 솔루션의 결합은 오늘날 엔터프라이즈 AI 고객이 요구하는 탁월한 속도, 확장성, 그리고 단순성을 지원한다"고 말했다. 

새로운 스토리지 솔루션의 구성은 다음과 같다.

올플래시 제품군 - 슈퍼마이크로 페타급 스토리지 서버

애플리케이션 제품군 – 슈퍼마이크로 8U GPU 서버: AS -8125GS-TNHR 및 SYS-821GE-TNHR

오브젝트 제품군 - 퀀텀 액티브스케일(Quantum ActiveScale) 오브젝트 스토리지를 실행하는 슈퍼마이크로 90 드라이브 베이 4U 슈퍼스토리지 서버

소프트웨어 - WEKA 데이터 플랫폼 및 퀀텀 액티브스케일(Quantum ActiveScale) 오브젝트 스토리지

스위치 - 슈퍼마이크로 인피니밴드(InfiniBand) 및 이더넷 스위치

한편, 슈퍼마이크로는 웨비나에서 최적화된 스토리지 아키텍처에 대해 보다 자세히 소개할 예정이다. 현지 시간 2024년 2월 1일에 열리는 실시간 웨비나에 참석 또는 슈퍼마이크로와 WEKA의 웨비나에 대한 온디맨드 시청은 ‘브라이트톡(BrightTalk) 웨비나’ 사이트에서 가능하다. 

슈퍼마이크로의 AI용 스토리지 솔루션 및 스토리지 시스템 전 제품에 대한 자세한 정보는 홈페이지에서 확인할 수 있다.