엔비디아(NVIDIA) DGX H100 시스템, 뉴욕멜론은행에 엔비디아 DGX 슈퍼팟 기반 AI 슈퍼컴퓨터 구축

엔비디아(www.nvidia.co.kr)가 뉴욕멜론은행(BNY Mellon)이 글로벌 은행 최초로 엔비디아(NVIDIA) DGX H100 시스템을 갖춘  엔비디아 DGX 슈퍼팟(DGX SuperPOD)을 구축했다고 발표했다.  

창립 240주년을 맞이한 글로벌 금융 서비스 기업인 뉴욕멜론은행은 AI 여정을 가속화하기 위해 빠르게 움직이고 있다. 

엔비디아 프로페셔널 서비스(Professional Services)와 뉴욕멜론은행의 강력한 협력 관계 덕분에 DGX 슈퍼팟 설치와 구성 일정을 앞당길 수 있었다. 이 시스템은 수십 대의 엔비디아 DGX 시스템과 엔비디아 인피니밴드(InfiniBand) 네트워킹을 갖추고, DGX 슈퍼팟 레퍼런스 아키텍처를 기반으로 한다. 이로써 뉴욕멜론은행은 이전에는 경험할 수 없었던 컴퓨터 처리 성능을 경험할 수 있다. 

뉴욕멜론은행의 최고정보책임자인 브리짓 엥글(Bridget Engle)은 "뉴욕멜론은행 기술 전략의 핵심은 확장 가능하고 신뢰할 수 있는 플랫폼과 솔루션을 통해 고객의 역량을 강화하는 것이다. 당사는 엔비디아의 AI 슈퍼컴퓨터를 구축함으로써 처리 능력을 가속화해 고객의 자산을 관리, 이동, 보호하는 데 도움이 되는 혁신적 AI 기반 기능을 구현할 수 있었다"고 말했다. 

뉴욕멜론은행은 새로운 시스템을 기반으로 엔비디아 AI 엔터프라이즈 소프트웨어(AI Enterprise software)를 사용해 AI 애플리케이션의 구축과 배포를 지원하고 AI 인프라를 관리할 계획이다. 

엔비디아 AI 소프트웨어, 뉴욕멜론은행 툴박스의 핵심요소

1784년 알렉산더 해밀턴(Alexander Hamilton)이 설립한 뉴욕멜론은행은 약 50조 달러의 고객 자산을 관리하고 있다. 또한 전 세계 기업과 기관이 필요한 자금을 조달하고, 정부의 지역 프로젝트 자금 지원을 돕고, 수백만 명의 개인 고객의 투자를 보호하는 등의 업무를 맡고 있다. 

뉴욕멜론은행은 오랫동안 금융서비스 산업에서 AI와 가속 컴퓨팅을 선도해 왔다. 뉴욕멜론은행의 AI 허브에는 20개 이상의 AI 지원 솔루션이 운영되고 있다. 이러한 솔루션은 예측 분석, 자동화, 이상 징후 감지 등의 기능을 지원한다. 

뉴욕멜론은행은 AI가 조직 전반의 리스크를 줄이기 위해 프로세스를 개선할 수 있는 기회를 제공한다는 점을 인식하고 있다. 따라서 강력한 리스크 관리와 거버넌스 프로세스를 통해 AI와 관련된 잠재적 리스크를 고려하고 관리하기 위해 적극적으로 노력하고 있다. 

DGX 슈퍼팟이 지원하는 사용 사례로는 예금 예측, 결제 자동화, 예측 거래 분석, 일말 현금 잔액 등이 있다. DGX 슈퍼팟 사용 사례는 더욱 늘어날 예정이다. 뉴욕멜론은행은 지난해 전사적으로 실시한 연습을 통해 600개 이상의 AI 기회를 확인했으며, 이미 수십 개가 엔비디아 네모(NeMo), 엔비디아 트리톤 추론 서버(Triton Inference Server), 엔비디아 베이스 커맨드(Base Command)와 같은 엔비디아 AI 엔터프라이즈 소프트웨어를 사용해 개발되고 있다. 

엔비디아 트리톤 추론 서버는 AI 추론을 간소화하거나 학습된 AI 모델을 작동시키는 추론 지원 소프트웨어다. 

엔비디아 베이스 커맨드는 기업과 데이터 사이언티스트가 AI 개발을 가속화할 수 있도록 최고의 엔비디아 소프트웨어를 제공하는 DGX 슈퍼팟을 구동한다. 

엔비디아 네모는 어디서나 맞춤형 생성형 AI를 개발할 수 있는 엔드투엔드 플랫폼이다. 여기에는 훈련 및 검색 증강 생성(RAG), 가드레일링과 툴킷, 데이터 큐레이션 도구, 사전 훈련된 모델을 위한 도구가 포함돼 있어 기업이 쉽고 비용 효율적이며 빠르게 생성형 AI를 도입할 수 있는 방법을 제공한다. 

최고의 인재를 통한 혁신 촉진

뉴욕멜론은행은 새로운 DGX 슈퍼팟을 통해 회사 내부와 글로벌 금융 시스템 전반의 혁신을 간소화하고 가속화한다. 

수백 명의 데이터 과학자, 솔루션 아키텍트, 리스크, 제어와 규정 준수 전문가들이 수년 동안 대규모 엔터프라이즈 AI 개발을 위한 세계 최고의 솔루션을 제공하는 엔비디아 DGX 플랫폼을 사용해 왔다. 

이제 새로운 엔비디아 DGX 슈퍼팟을 활용함으로써 온프레미스 AI 인프라를 빠르게 확장할 수 있다. 

또한 새로운 시스템은 신기술을 도입하고 전 세계 최고의 인재를 유치해 혁신을 추진하고자 하는 뉴욕멜론은행의 노력을 뒷받침한다.