엔비디아 에이전트 위한 베라 루빈 성능 확장, 그록 3 LPX 본격 양산

엔비디아(www.nvidia.co.kr)가 이번 주 미국 캘리포니아주 팔로알토(Palo Alto)에서 열린 ‘핫칩스(Hot Chips) 2026’ 콘퍼런스에서 극한의 공동 설계(extreme codesign)가 AI 팩토리를 엔드투엔드로 재편하는 방식을 발표했다. 

AI 추론의 새로운 시대는 하나의 혁신적인 칩이나 네트워크, 시스템만으로 정의되지 않으며, AI 팩토리의 모든 계층이 유기적으로 작동하는 것이 핵심이다. 이에 엔비디아(NVIDIA)는 에이전틱 시스템의 빠른 토큰 생성을 지원하기 위해 베라 루빈(Vera Rubin) NVL72를 확장하고 있다.

엔비디아는 베라 루빈 랙 스케일 시스템인 엔비디아 그록 3 LPX(Groq 3 LPX)의 본격 양산에 들어갔다고 발표했다. 그록 3 LPX는 오픈소스 에이전틱 모델 젬마 4 31B(Gemma 4 31B)를 대상으로 에이전틱 시스템에 필수적인 10만 토큰 장문 컨텍스트 사용 사례를 대상으로 한 아티피셜 애널리시스(Artificial Analysis) 벤치마크에서 초당 3,400개의 출력 토큰을 달성했다. 이는 유사 플랫폼 대비 4배 빠른 성능이다. 

전 세계 산업 파트너들은 베라 루빈 플랫폼 솔루션을 도입하고 있다. 스페이스XAI(SpaceXAI)는 차세대 에이전틱 AI를 구동하기 위해 엔비디아 베라 CPU를 사용할 계획이라고 밝혔다. 코어위브(CoreWeave)는 다수의 병렬 스위치를 사용해 엔비디아 베라 루빈 랙을 연결하고, 평탄한 무손실 고대역폭 AI 네트워크를 제공하는 스펙트럼-X 멀티플레인(Spectrum-X Multiplane)을 실제 운영 환경에 구축했다. 네비우스(Nebius)는 엔비디아 그록 3 LPX를 도입한 최초의 AI 클라우드 업체다. 

AI가 모델 훈련에서 추론과 에이전틱 AI 중심으로 전환되면서 추론은 새로운 핵심 분야로 부상하고 있다. 에이전틱 AI 시스템은 더 많은 토큰을 생성하고, 훨씬 더 큰 컨텍스트 윈도우를 처리하며, 복잡한 문제를 해결하기 위해 다른 AI 시스템과 점점 더 활발하게 협력하고 있다. 

이러한 워크로드에는 성능은 물론 전례 없는 규모의 처리량, 반응성, 경제성을 모두 충족할 수 있는 새로운 유형의 인프라가 필요하다. 

엔비디아는 컴퓨팅, 네트워킹, 추론 가속을 통합 시스템으로 설계해 고객이 긴 컨텍스트 추론과 멀티 에이전트 시스템의 새로운 요구사항에 최적화된 인프라를 구축할 수 있도록 지원하고 있다.

극한의 공동 설계로 성능 최적화

극한의 공동 설계는 엔비디아 플랫폼을 이끄는 핵심 원칙이다. 베라 루빈은 에이전트가 점점 더 긴 시퀀스를 처리하며 추론하는 환경에서 높은 추론 성능을 구현하도록 설계됐다. 

엔비디아 스펙트럼-X 이더넷(Spectrum-X Ethernet)은 이러한 대규모 데이터 흐름을 AI 팩토리 전반에서 효율적으로 전달하며, 엔비디아 그록 3 LPX는 초고속으로 토큰을 생성한다. 이 두 기술은 컨텍스트 처리와 통신부터 토큰 생성에 이르기까지 AI 파이프라인 전반을 통합된 AI 팩토리 아키텍처로 최적화하는 엔비디아의 접근 방식을 보여준다. 

엔비디아 그록 3 LPX는 가장 범용성이 높은 AI 팩토리 플랫폼인 베라 루빈 NVL72와 함께 작동하는 새로운 저지연 추론 아키텍처를 제공한다. 이를 통해 기업과 클라우드 제공업체는 에이전틱 애플리케이션에 필요한 낮은 레이턴시와 높은 처리량, 확장 가능한 경제성을 확보할 수 있다. 

이처럼 혁신적인 성능은 개별 구성 요소를 독립적으로 최적화하는 것이 아니라 스택의 모든 계층을 공동 설계하는 데서 비롯된다. 네트워킹과 컨텍스트 처리부터 대규모 추론에 이르기까지, 엔비디아의 풀스택 플랫폼은 AI 팩토리를 인텔리전스 생산을 위한 통합 엔진으로 전환한다. 이로써 지속적으로 증가하는 토큰을 수익으로 연결한다. 

엔비디아 파트너사, 최저 토큰 비용 위해 베라 루빈 도입

선도적인 AI 클라우드 기업 네비우스는 엔비디아 그록 3 LPX를 최초로 도입했다. 이를 통해 개발자에게 뛰어난 토큰 생성 속도를 제공하고, 높은 반응성이 요구되는 에이전틱 AI 애플리케이션 구축을 지원한다. 

네비우스 토큰 팩토리(Nebius Token Factory)에서 엔비디아 그록 3 LPX를 엔비디아 베라 루빈 NVL72와 결합하면 추론 성능이 향상된다. 개발자는 대규모 환경에서 높은 상호작용성을 갖춘 에이전트와 코딩 시스템, 기타 실시간 AI 서비스를 구축할 수 있다. 

코어위브는 엔비디아 베라 루빈 랙을 연결하며, 스펙트럼-X 멀티플레인을 실제 운영 환경에 구축해 AI 클라우드 인프라의 성능을 한층 향상시키고 있다. 

스페이스XAI, 엔비디아 베라 CPU로 에이전틱 AI 구현

스페이스XAI는 지상 데이터센터부터 궤도 위성에 이르는 향후 AI 아키텍처를 엔비디아 베라 루빈을 중심으로 구축하고 확장할 계획이다. 또한 엔비디아 베라 CPU를 도입해 에이전틱 AI를 뒷받침하는 CPU 집약적 작업을 가속할 예정이다. 여기에는 오케스트레이션, 도구 사용, 코드 실행, 데이터 처리, 시뮬레이션 등이 포함된다.

엔비디아와 스페이스XAI의 협력은 엔비디아의 풀스택 AI 플랫폼을 스페이스XAI로 확장한다. 이를 통해 베라 CPU, 엔비디아 가속 컴퓨팅, 네트워킹, 소프트웨어를 활용해 전례 없는 규모의 AI 발전을 추진한다.

에이전틱 시대를 위해 설계된 베라 루빈은 최고 수준의 코어당 성능과 탁월한 메모리 대역폭, 부하 상황에서도 예측 가능한 성능을 제공한다. 이를 통해 에이전트가 작업을 더 빠르게 완료하고, GPU 인프라를 최대한 활용할 수 있도록 지원한다. 

엔비디아 그록 3 LPX, 인터랙티브 AI 추론 가속

베라 루빈 NVL72 플랫폼과 공동 설계된 엔비디아 그록 3 LPX는 에이전틱 워크로드를 위한 최저 수준의 레이턴시로 AI 팩토리가 토큰을 생성할 수 있도록 한다. 

에이전틱 AI는 디코딩 레이턴시라는 새로운 성능 과제를 제시한다. AI 에이전트가 추론하고, 도구를 사용하며, 다른 시스템과 상호작용하는 과정에서 응답은 한 번에 한 토큰씩 생성된다. 즉, 복잡한 작업 과정이 이어질수록 지연이 누적된다. 엔비디아 그록 3 LPX는 사용자가 기대하는 속도로 에이전트를 작동시키기 위해, 토큰 생성에 특화된 가속 기능으로 베라 루빈 NVL72 플랫폼의 성능을 확장한다. 

엔비디아 루빈 GPU는 대규모 컨텍스트 처리를 담당하고, LPX는 레이턴시에 민감한 디코딩 워크로드를 가속한다. 이를 통해 더 빠르고 예측 가능한 토큰 생성을 구현하며, AI 팩토리가 반응성 높은 추론과 원활한 에이전트 상호작용, 향상된 인프라 효율성을 제공할 수 있도록 한다.

루빈 GPU와 LPU는 함께 작동하며 속도와 처리량 사이의 상충 관계를 해소한다. 이를 통해 AI 제공업체는 차세대 에이전틱 AI 애플리케이션을 위한 반응성 높은 대규모 추론을 제공할 수 있다.

토큰 팩토리 구축

AI 산업의 중심축은 모델 훈련에서 대규모 인텔리전스 제공으로 이동하고 있다. 이에 따라 인프라는 성능, 처리량, 인텔리전스 무결성, 경제적 효율성을 동시에 달성할 수 있도록 발전해야 한다. 이는 엔비디아가 ‘토큰 팩토리(token factory)’라고 부르는 개념이다. 오늘날 에이전틱 AI 시스템은 다른 AI 시스템과 소통하고, 여러 데이터 소스에 접근하며, 대규모 컨텍스트를 유지한다. 이러한 흐름 속에서 고속 추론에 대한 수요는 전례 없이 증가하고 있다. 

엔비디아 그록 3 LPX는 이러한 워크로드를 위해 설계됐다. 베라 루빈 NVL72의 확장 솔루션으로서 대규모 컨텍스트 윈도우에서도 초고속 응답성을 구현하며, 서비스 제공업체가 처리량과 인프라 활용도를 극대화할 수 있도록 한다. 

추론을 위한 극한의 공동 설계

엔비디아 그록 3 LPX는 독립형 가속기와 달리, 극한의 공동 설계를 통해 GPU와 LPU의 강점을 결합한다. 루빈 GPU와 LPU는 AI 모델의 모든 계층을 함께 처리해 에이전틱 워크로드에서 새로운 수준의 추론 성능을 구현한다. 

대규모 환경에서는 여러 LPU가 결정론적(deterministic) 추론에 최적화된 하나의 거대 프로세서처럼 작동한다. 엔비디아 그록 3 LPX의 랙 스케일 구성은 직접적인 칩 간 연결을 통해 256개의 LP30 가속기를 포함할 수 있으며, 최신 AI 팩토리를 위한 고효율 추론 엔진을 구현한다. 

에이전틱 AI 시대에 맞춘 설계

추론 모델이 발전하고 에이전틱 워크플로우에서 생성되는 토큰이 증가함에 따라, 이를 지원하는 인프라도 발전해야 한다. 엔비디아 그록 3 LPX는 반응성, 처리량, 효율성을 극대화하도록 설계된 추론 아키텍처를 통해 베라 루빈 NVL72 플랫폼의 성능을 확장하며, 차세대 AI 팩토리를 구현하는 기반을 마련한다. 

앞으로 베라 루빈 NVL72와의 결합으로 더 많은 최적화와 폭넓은 모델 지원, 향상된 성능을 구현할 수 있으며, 처리량과 상호작용성의 새로운 지평이 열릴 예정이다. 

엔비디아 NV링크 퓨전, 선도적 엔비디아 AI 플랫폼에 XPU 연결

엔비디아 NV링크 퓨전(NVIDIA NVLink Fusion)은 커스텀 실리콘을 엔비디아의 선도적인 AI 인프라 플랫폼에 통합한다. 이를 통해 하이퍼스케일러와 AI 네이티브 기업이 더 높은 성능과 유연성, 빠른 구축 속도를 갖춘 세미 커스텀(semi-custom) AI 팩토리를 구축할 수 있도록 한다. 

AI 모델의 규모와 복잡성이 증가함에 따라 단순한 컴퓨팅 성능만으로는 한계가 발생한다. AI 팩토리에는 높은 대역폭과 낮은 레이턴시를 갖춘 스케일업(scale-up) 네트워킹, 검증된 랙 스케일 아키텍처, 전력과 냉각, 관리 소프트웨어, 공급망을 아우르는 완전한 생태계가 필요하다. NV링크 퓨전은 커스텀 XPU와 CPU를 엔비디아의 스케일업, 스케일아웃(scale-out) 기술 스택에 연결해 이러한 문제를 해결한다. 

NV링크 퓨전에는 6세대 엔비디아 NV링크와 NV링크 스위치(NVLink Switch) 기반 스케일업 네트워킹, XPU·CPU 간 에너지 효율적인 연결을 위한 NV링크-C2C가 포함된다. 엔비디아 MGX 생태계를 통해 기업은 검증된 랙 설계와 부품, 제조 파트너 솔루션, 분산 컴퓨팅과 분리형 워크로드, 클러스터 관리를 위한 개방적이고 확장 가능한 소프트웨어를 활용할 수 있다. 

GPU와 XPU 기반 시스템을 통합 아키텍처로 표준화함으로써, NV링크 퓨전은 데이터센터 구축을 실리콘 준비 일정과 분리할 수 있도록 한다. 운영자는 랙 설치 공간과 네트워킹, 냉각, 전력 공급, 관리 시스템을 공유한 후, 공급 상황과 워크로드 요구사항의 변화에 따라 GPU와 XPU의 구성 비율을 조정할 수 있다. 

한편 NV링크 퓨전은 엔비디아 AI 플랫폼의 수직적 통합과 수평적 개방이라는 접근 방식을 커스텀 실리콘으로 확장한다. 파트너사는 차별화할 수 있는 영역에서 자유롭게 혁신하는 동시에 컴퓨팅, 네트워킹, 인프라, 소프트웨어 전반에 걸친 엔비디아 기술을 활용할 수 있다. 이를 통해 어느 한 기업도 단독으로 구축할 수 없는 유연한 단일 AI 팩토리를 구축할 수 있다.