일본 기업·스타트업, 엔비디아 네모트론 오픈 모델로 산업 특화 AI 구축

엔비디아(www.nvidia.co.kr)가 일본의 주요 기업, 스타트업, 연구 기관들이 엔비디아 네모트론TM(NVIDIA NemotronTM) 오픈 모델, 데이터 및 라이브러리를 활용해 산업 특화 AI 모델과 애플리케이션을 구축하고 있다고 발표했다. 이를 통해 일본의 언어와 산업, 인력 구조에 맞춘 AI 개발을 가속화하고 있다. 

오픈 모델은 국가 AI 생태계의 기반으로, 조직이 직접 통제할 수 있는 AI를 맞춤화하고, 배포하며, 관리할 수 있도록 지원한다. 

일본에서는 고령화와 인력 구조 전환에 대응하는 과정에서 이러한 역량의 중요성이 더욱 커지고 있다. 이에 따라 노동력을 강화하고 생산성을 유지하며 혁신을 가속화할 수 있도록 현지 산업에 특화된 AI에 대한 수요가 증가하고 있다. 

엔비디아 창립자 겸 CEO 젠슨 황(Jensen Huang)은 “모든 국가와 기업은 자체 지능형 인프라를 소유하고 통제해야 하며, 오픈 모델이 이를 가능하게 한다. 오픈 모델은 국가와 기업, 연구자들이 각자의 필요에 따라 AI를 검토하고, 개선하고, 적용하고, 보호하며, 배포할 수 있는 자유를 제공한다. 엔비디아는 일본의 AI 리더들과 함께 새로운 발견을 가속화하고 국가 역량을 강화하며, 모든 사회가 AI 혁명에 참여하고 그 혜택을 누릴 수 있도록 하는 오픈 AI 생태계를 발전시키고 있다”고 말했다. 

엔비디아 네모트론 기반 일본 특화 AI 구축

일본 전역의 개발자들은 엔비디아 네모트론 오픈 모델과 데이터셋을 활용해 일본의 산업과 공공 부문 요구에 맞춘 특화 AI를 구축하고 있다. 

도쿄과학대학(Institute of Science Tokyo)은 엔비디아 네모트론 데이터셋과 엔비디아 네모TM(NeMoTM) 소프트웨어 스택을 활용한 지속적 사전 학습과 사후 학습을 통해 스왈로(Swallow) 오픈 파운데이션 모델군을 개발했다. 스왈로 모델은 기본 모델의 핵심 영어, 수학, 코딩 역량을 유지하면서 일본어 처리와 추론 성능을 향상시켰다. 기업들은 금융 문서 번역과 자산관리 보고서 생성 등 특화된 사용 사례에 맞게 스왈로를 맞춤화하고 배포하고 있다.

소프트뱅크(SoftBank Corp.)의 생성형 AI 연구 자회사인 SB 인튜이션(SB Intuitions Corp.)은 엔비디아 네모 RL과 메가트론-LM(Megatron-LM) 라이브러리를 포함한 엔비디아 네모트론 기술을 활용해 자체 생성형 AI 모델인 사라시나(Sarashina) 시리즈를 학습시켰다. 사라시나3 미니(Sarashina3 mini)는 일본 디지털청(Digital Agency)의 특화 AI 활용 사례에 적용할 모델로 선정됐다. 소프트뱅크는 사라시나와 엔비디아 네모트론을 모두 활용한 대규모 통신 모델(Large Telecom Model, LTM)도 개발·배포해 통신 네트워크의 자율 운영을 지원하고 있다. 

스톡마크(Stockmark)가 이번 발표와 함께 공개한 일본어 문서 이해 모델은 엔비디아 네모트론 3 나노 옴니(Nemotron 3 Nano Omni) 모델을 기반으로 한다. 스톡마크는 엔비디아 네모 리트리버TM(NeMo RetrieverTM)와 네모트론-페르소나-재팬(Nemotron-Personas-Japan) 데이터셋을 활용한 기업용 지식 애플리케이션도 개발하고 있다. 일본의 생성형 AI 가속기 챌린지(Generative AI Accelerator Challenge, GENIAC) 국가 프로젝트를 통해 일본 전역의 제조, 에너지 및 화학 산업 고객에게 관련 서비스를 제공하고 있다. 

엔비디아 네모트론 기반 일본 산업 혁신

일본 기업들은 엔비디아 네모트론을 활용해 핵심 서비스를 현대화하고, 생산성을 높이며, 국가의 노동력을 지원하고 있다. 

AI 및 로보틱스 스타트업 아바타린(avatarin)은 엔비디아 네모트론 오픈 모델과 엔비디아 네모를 활용해 기업용 AI 에이전트의 일본어 음성과 추론 기능을 개발하고 있다. 엔비디아 HGXTM B300 시스템은 이러한 에이전트가 고객과의 대화를 안전하게 분석하고 기업 지식에 접근해 보다 정확한 응답을 제공할 수 있도록 프라이빗 AI 인프라를 지원한다. 또한 엔비디아 젯슨TM(JetsonTM)은 일본 전역의 공항과 기타 장소에 배포되고 있는 디지털 아바타 시스템을 비롯한 엣지 AI 기능을 구동한다. 

에네오스 홀딩스(ENEOS Holdings)는 엔비디아 네모트론 오픈 모델과 엔비디아 AI-Q 블루프린트(AI-Q Blueprint), 엔비디아 알케미(ALCHEMI) NIM 마이크로서비스를 활용해 에너지와 소재 연구개발 분야의 에이전틱 AI 워크플로우를 발전시키고 있다. 연구진은 이러한 기술을 통해 기술 문서 검색, 시각과 언어 이해, 시뮬레이션 기반 분자 스크리닝을 통합함으로써 액침 냉각 유체와 첨단 촉매 등 다양한 응용 분야를 위한 소재 탐색을 가속화하고 있다. 

NTT의 운영 자회사 NTT 데이터(NTT DATA)는 엔비디아 네모트론-페르소나-재팬을 활용해 자체 개발한 츠즈미 2(tsuzumi 2) 모델의 학습 데이터를 보강했다. 이를 통해 질의응답 정확도를 높이고 추가 지식이 필요한 질문에 대한 응답 품질을 개선했다. 또한 엔비디아 네모트론을 포함한 엔비디아 에이전트 툴킷(Agent Toolkit)을 활용해 확장 가능한 멀티 에이전트 프레임워크를 도입하는 방안을 검토하고 있다. 이 프레임워크는 작업을 가장 적합한 모델로 라우팅해 정확하고, 효율적이며, 자율적인 기업 워크플로우를 구현할 수 있도록 지원한다. 

히타치(Hitachi)는 엔비디아 네모트론과 엔비디아 코스모스TM(CosmosTM) 오픈 모델에 자체 IT 및 OT 분야의 전문성을 결합해 실제 운영 현장의 과제를 해결하는 피지컬 AI 기술을 개발하고 있다. 멀티 에이전트 오케스트레이션 플랫폼의 일부로 활용되는 이 기술은 IT와 OT 운영을 연결하고 조율하도록 설계됐다. 이를 통해 복잡한 워크플로우 전반에서 전사적 비즈니스 프로세스를 혁신하는 데 기여할 수 있다.

사카나 AI(Sakana AI)는 엔비디아와 협력해 모델 오케스트레이션 플랫폼인 푸구(Fugu)에 엔비디아 네모트론을 통합하고 있다. 이를 통해 푸구가 지능적으로 오케스트레이션할 수 있는 AI 모델의 범위를 확장하고, 에이전틱 AI 워크플로우에서 각 작업에 가장 적합한 모델을 동적으로 선택할 수 있도록 지원한다. 푸구는 각 요청을 해당 작업에 가장 적합한 모델로 라우팅해 개발자들이 다양한 오픈 모델과 독점 AI 모델 전반에서 정확도, 성능, 비용의 균형을 맞출 수 있도록 한다. 또한 정교한 오케스트레이션을 통해 개별 모델만으로는 달성하기 어려운 역량을 구현할 수 있음을 보여준다. 복잡한 실제 코딩 작업에서 확인된 초기 성능 결과는 모델 간 조율이 더욱 뛰어난 AI를 구현하는 유망한 접근 방식임을 보여준다. 

개방적이고 맞춤화 가능하며 어디서나 배포 가능한 AI

네모트론 모델은 오픈 가중치, 데이터셋, 레시피 형태로 제공된다. 이를 통해 조직은 투명성과 제어권을 확보하고, 도메인별 워크플로우에 맞게 모델을 맞춤화해 애플리케이션과 데이터가 위치한 환경에 모델을 배포할 수 있다. 

개발자는 엔비디아 네모를 활용해 각자의 사용 사례에 맞게 모델을 맞춤화, 평가, 최적화하고 규제, 주권, 데이터 현지화 요건을 충족하는 환경에 모델을 배포할 수 있다. 

네모트론 모델은 허깅 페이스(Hugging Face), 모델스코프(ModelScope), 오픈라우터(OpenRouter)에서 제공된다. build.nvidia.com에서는 엔비디아 NIMTM 마이크로서비스 형태로 이용할 수 있으며, 엔비디아 클라우드 파트너(Cloud Partner), 추론 플랫폼, 클라우드 서비스 제공업체를 통해서도 사용 가능하다.