일본 메가뱅크, 엔비디아 네모트론과 에이전트 툴킷으로 금융 인텔리전스 구축

엔비디아(www.nvidia.co.kr)가 일본 전역의 주요 은행 및 금융 기술 기업들이 금융 인텔리전스 제공을 위해 AI 팩토리와 모델을 구축하고 있다고 밝혔다. 엔비디아 네모트론(NVIDIA Nemotron) 오픈 모델과 엔비디아 에이전트 툴킷(Agent Toolkit)은 규제 대상 금융 데이터를 가치 있는 인텔리전스로 전환하도록 지원한다. 

은행 업계에서 가장 강력한 AI 애플리케이션은 챗봇의 형태가 아닐 수 있다. 신뢰할 수 있는 데이터를 기반으로 구현되는 더욱 안전한 결제, 지능적인 사기 탐지, 신속한 소프트웨어 개발, 더욱 개인화된 금융 서비스의 형태로 나타날 수 있다. 

미즈호(Mizuho)는 엔비디아 DGX B200 시스템을 시작으로 향후 더 큰 규모의 클러스터로 확장해 일본 금융 업계 최대 규모가 될 것으로 예상되는 온프레미스 AI 팩토리를 구축할 계획이다. 민감한 금융 워크로드를 처리하는 은행의 경우, 온프레미스 환경은 매우 중요하다. 핵심 데이터를 내부에 안전하게 유지하면서 엔비디아 에이전트 툴킷과 엔비디아 네모클로(NemoClaw) 블루프린트를 활용해 에이전트 개발의 기반을 마련할 수 있기 때문이다. 

미즈호는 이러한 안전을 기반으로 엄격한 거버넌스와 감사 가능성을 보장하는 동시에 정보 수집, 문서 작성, 분석, 시스템 개발 지원을 포함한 핵심 워크플로우로 자율형 에이전트의 운영 범위를 안전하게 확대하는 것을 목표로 한다. 

SMBC 그룹의 핵심 IT 기업인 일본종합연구소(Japan Research Institute, JRI)는 엔비디아 네모트론 오픈 모델을 활용해 금융 데이터를 인텔리전스로 전환하는 AI 팩토리를 구축했다. 일본 최대 금융 그룹 중 하나인 SMBC 그룹의 도입 사례는 오픈 모델과 가속 컴퓨팅 인프라가 기존 금융기관이 AI를 실험 단계에서 실제 운영 가능한 엔터프라이즈 워크플로우로 전환하는 데 어떻게 기여할 수 있는지를 보여준다. 해당 이니셔티브는 SMBC 그룹 전반의 AI 도입 확대, 생산성 향상, 혁신 가속, 고객을 위한 더 나은 금융 서비스 제공의 기반이 된다. 

라쿠텐은행(Rakuten Bank)은 디지털 네이티브 규모를 바탕으로 이러한 전환을 추진하고 있다. 70개 이상의 서비스, 1,800만 개 이상의 은행 계좌, 3,300만 장의 신용카드, 1,400만 개의 증권 계좌를 보유한 라쿠텐 그룹의 생태계를 활용해 엔비디아 에이전트 툴킷으로 거래 파운데이션 모델을 개발할 예정이다. 이를 통해 대규모 소비자 금융 데이터를 은행 서비스에 특화된 인텔리전스로 전환할 수 있다. 

잇푸센킨(Ippu Senkin)은 금융기관과 협력해 엔비디아 블랙웰(Blackwell) GPU와 로컬 AI 에이전트를 활용한 소버린 금융 인텔리전스를 구축하고 있다. 로컬 AI 에이젠트는 잇푸센킨이 엔비디아 에이전트 툴킷, 엔비디아 네모트론, 엔비디아 네모클로를 활용해 개발한 로컬 코딩 에이전트로, 해당 금융기관 그룹 내 안전한 결제 운영에 사용된다. 이번 협력은 AI 네이티브 파트너들이 금융 서비스 기업이 로컬 AI 팩토리에서 실행할 수 있는 로컬 에이전트 및 애플리케이션 구축을 지원하는 광범위한 생태계의 움직임을 보여준다. 

일본 금융 서비스 산업은 모델 시범 운영 단계에서 규제 요건을 충족하는 도메인 특화 인텔리전스를 지원할 수 있는 AI 인프라로 전환하고 있다. 은행에는 성능, 거버넌스, 데이터와의 근접성이 필요하다. 디지털 은행에는 대규모 거래 데이터를 처리할 수 있는 모델 구축 역량이 필요하며, AI 네이티브 파트너에는 로컬 금융 에이전트를 구축하기 위한 플랫폼이 필요하다. 

엔비디아는 가속 컴퓨팅과 AI 팩토리 아키텍처부터 에이전트와 특화 금융 인텔리전스 구축을 위한 네모트론 오픈 모델과 엔비디아 에이전트 툴킷에 이르기까지 이러한 요구를 지원하는 풀스택 솔루션을 제공한다. 

금융기관들이 거래 파운데이션 모델을 통해 금융 데이터를 인텔리전스로 전환하는 방법에 대한 자세한 내용은 여기에서 확인할 수 있다.