엔비디아 NV링크 6, 대규모 AI 팩토리 안정적 운영 지원

엔비디아(www.nvidia.co.kr)가 엔비디아 NV링크 6(NVIDIA NVLink 6)의 다계층 복원력 아키텍처를 통해 대규모 AI 팩토리의 안정적인 운영을 지원한다고 밝혔다. 

AI 팩토리가 수십만 개의 GPU 규모로 확장됨에 따라 안정적인 운영을 위한 신뢰성이 성능을 좌우하는 핵심 요소가 되고 있다. 

학습과 추론 워크로드는 지속적인 운영에 의존하기 때문에 일시적인 오류, 신호 저하, 하드웨어 장애는 피하기 어려운 과제다. 엔비디아 NV링크 6는 이러한 문제가 애플리케이션에 영향을 미치기 전에 이를 감지하고, 영향 범위를 제한하며, 복구하도록 설계된 다계층 복원력 아키텍처를 통해 이에 대응한다. 

물리 계층에서는 맞춤형 순방향 오류 정정, 물리 계층 재시도, 범용 물리 계층 복구를 통해 레이턴시에 미치는 영향을 최소화하면서 무손실 패브릭을 유지한다. 네트워크 계층에서는 크레딧 기반 흐름 제어, 동적 라우팅, 링크 재조정을 통해 영향을 국소적으로 제한하고, AI 팩토리 처리량을 저하시킬 수 있는 연쇄적인 정체 현상을 방지한다. 

여기에서 엔비디아 NV링크 6에 대한 자세한 내용을 확인할 수 있다.