엔비디아 AI 엔터프라이즈, ‘AI 에이전트’ 재정의

엔비디아(www.nvidia.co.kr)가 미국 새너제이에서 열린 GTC에서 전 세계 기업과 기관이 엔비디아 AI 엔터프라이즈(NVIDIA AI Enterprise)로 구축된 AI 에이전트를 배포해 인간 역량을 강화하고 경제 성장을 가속화하고 있다고 밝혔다. 

AI 에이전트는 새로운 방식으로 복잡한 문제를 해결하도록 지원함으로써 시간과 비용을 절감하고 업무를 혁신하고 있다. 

엔비디아 AI 엔터프라이즈(AI Enterprise) 클라우드 소프트웨어 플랫폼으로 구축된 AI 에이전트는 인도적 지원이나 고객 서비스, 의료 등 목적을 막론하고 새로운 디지털 인력을 구성하고 있다. 이를 통해 전문가들이 적은 비용으로 큰 영향력을 발휘해 목표를 신속히 달성할 수 있도록 돕는다. 

성장과 교육을 지원하는 AI 에이전트

AI는 수백 개 언어로 된 멀티모달 콘텐츠를 즉시 번역, 요약, 처리할 수 있다. 이 기술이 에이전틱 시스템에 통합되면, 국제기구가 전 세계 이해관계자들과 보다 효율적으로 소통하고 교육할 수 있게 된다. 

유엔(United Nations, UN)은 액센츄어(Accenture)와 협력해 150개 이상의 언어를 지원하는 다국어 연구 에이전트를 개발하며 지역 경제의 지속 가능성을 촉진하고 있다. 이 에이전트는 마치 연구원처럼 유엔의 지속가능발전목표(Sustainable Development Goals) 관련 질문에 답하고, 세계 평화와 번영이라는 의제에 인식과 참여를 촉진할 예정이다. 

글로벌 비영리 단체 머시 코프(Mercy Corps)는 클라우데라(Cloudera)와 협력해 AI 기반의 메소드 매처(Methods Matcher) 도구를 배포했다. 이 도구는 40여 개국의 인도적 지원 전문가들에게 연구, 요약, 모범 사례 지침, 데이터 기반 위기 대응을 제공해 재난 상황에서 보다 빠른 원조 제공을 지원한다. 

위키미디어 도이치랜드(Wikimedia Deutschland)는 엔비디아 AI로 구축된 데이터스택스 AI(DataStax AI) 플랫폼을 구축했다. 이를 통해 단 3일 만에 30배 빠른 수집 성능으로 1,000만 개의 위키데이터(Wikidata) 항목을 처리하고 임베드할 수 있게 됐다. 

산업 전반에 걸쳐 맞춤형 고객 서비스를 제공하는 AI 에이전트

에이전틱 AI(Agentic AI)는 보다 효과적인 사용자 경험을 위해 정확도 높은 실시간 인사이트로 고객 서비스를 향상시킨다. AI 에이전트는 연중무휴 24시간 지원을 제공해 일반적인 문의를 보다 개인화된 응답으로 처리한다. 이 덕분에 실제 상담원은 더욱 복잡한 문제를 해결하는 데 투입될 수 있다. 

지능형 라우팅 기능은 고객 요청을 분류하고 우선순위를 지정해 고객이 적합한 전문가에게 신속히 연결될 수 있도록 한다. 또한, AI 에이전트의 예측 분석 기능은 문제를 예측하고 데이터 기반 인사이트를 통해 상담원의 역량을 강화함으로써 사전 예방적 지원을 가능하게 한다. 

통신, 금융, 의료, 스포츠 등 다양한 산업 분야의 기업들은 이미 AI 에이전트를 활용해 막대한 이점을 누리고 있다. 

AT&T는 퀀티파이(Quantiphi)와 협력해 새로운 애스크 AT&T(Ask AT&T) AI 에이전트를 개발해 콜센터에 배포했으며, 콜센터 분석 비용을 84% 절감했다. 

서던 캘리포니아 에디슨(Southern California Edison)은 WWT와 함께 프로젝트 오르카(Project Orca)를 추진하고 있다. 양사는 에이전트를 사용해 10만 개 이상의 네트워크 자산에 대한 데이터 처리와 예측을 개선한다. 이를 통해 다운타임을 줄이고 네트워크 안정성을 강화하며 보다 빠르고 효율적인 티켓 해결을 지원한다. 

은행은 비자(Visa)와 구축한 서비스나우 디스퓨트 매니지먼트(ServiceNow Dispute Management)를 도입하면 AI 에이전트를 통해 콜센터 업무량을 최대 28%까지 줄이고, 분쟁 해결에 드는 시간은 약 30% 단축할 수 있다. 

오타와 병원(Ottawa Hospital)은 딜로이트(Deloitte)와 협력해 연중무휴 24시간 환자 관리 에이전트 팀을 배치했다. 이를 통해 캐나다 온타리오주 동부 지역에서 120만 명 이상의 환자를 대상으로 수술 전 지원을 제공하고, 예정된 수술에 관한 환자의 질문에 답변할 수 있다. 

내셔널하키리그(National Hockey League)는 바스트 데이터 플랫폼(VAST Data Platform)과 함께 55만 시간 이상의 과거 경기 영상을 확보할 수 있었다. 이는 스폰서십 분석을 지원하고, 비디오 제작자가 신속하게 방송 클립을 제작할 수 있도록 도와주며, 개인화된 팬 콘텐츠를 강화하는 데 기여한다. 

엔비디아 AI 엔터프라이즈로 구축된 최첨단 AI 에이전트

AI 에이전트는 다양한 산업 분야에서 적용하고 채택할 수 있는 다용도 도구로 부상했다. 이러한 에이전트는 조직의 지식 기반에 연결해 배포된 분야의 비즈니스 맥락을 이해한다. 질문 답변, 번역, 데이터 처리, 예측 분석, 자동화와 같은 AI 에이전트의 핵심 기능은 모든 조직과 모든 산업에서 생산성을 개선하고 시간과 비용을 절약하도록 맞춤화될 수 있다. 

엔비디아 AI 엔터프라이즈는 엔터프라이즈 AI 에이전트를 위한 기본 구성을 제공한다. 여기에는 새로운 엔비디아 라마 네모트론(Llama Nemotron) 추론 모델 제품군을 비롯해, 최첨단 모델의 효율적인 추론을 위한 엔비디아 NIM 마이크로서비스와 데이터 처리, 모델 맞춤화, 시스템 평가, 검색 증강 생성(retrieval-augmented generation, RAG), 가드레일링을 위한 엔비디아 네모(NeMo) 도구가 포함돼 있다. 

엔비디아 블루프린트(Blueprint)는 고성능 에이전틱 시스템 개발의 모범 사례를 보여주는 참조 워크플로우다. 개발자는 AI-Q 엔비디아 AI 블루프린트를 통해, AI 에이전트를 추론 가능한 대규모 에이전틱 시스템으로 구축할 수 있다. 그 후, 이러한 시스템을 엔터프라이즈 데이터에 연결해 복잡한 문제를 해결하고, 다른 도구를 활용하는 동시에 보다 자율적인 협업과 운영을 지원한다. 

여기에서 엔비디아 GTC 기조연설을 시청해 AI 에이전트 개발에 대해 더 자세한 정보를 확인할 수 있으며 여기에서 소프트웨어 제품 정보를 참조할 수 있다.