AMD - 브로드컴·메타·마이크로소프트·엔비디아·오픈AI, AI 인프라용 개방형 사양 개발을 위한 광학 스케일업 컨소시움 설립

AMD는 브로드컴, 메타, 마이크로소프트, 엔비디아, 오픈AI와 함께 주축이 되어 광학 컴퓨트 인터커넥트(Optical Compute Interconnect, OCI) MSA(Multi-Source Agreement) 그룹을 공식 출범한다고 발표했다. 

이 산업 컨소시엄은 광학 스케일업 인터커넥트를 위한 다중 벤더 공급망 개발을 목표로, 하이퍼스케일러 주도의 개방형 생태계로의 전환을 나타낸다. OCI MSA 회원사들은 개방형 사양에 대한 협력을 통해 강력한 광학 생태계를 구축하고 미래 AI 인터커넥트가 현대 AI 인프라의 요구사항을 충족하기 위해 유연한 멀티벤더를 기반으로 구축하는 것을 목표로 한다. 

물리적 한계와 전력 문제

대규모 언어 모델(LLM)이 초지능 수준으로 발전함에 따라 기존 구리 기반 연결 기술은 물리적 전송 거리의 한계에 직면했으며. 이는 AI 클러스터 스케일업 도메인 아키텍처 확장에 영향을 미치고 있다. OCI는 구리 기반 스케일업 아키텍처에서 광학 기반 아키텍처로의 전환을 가능하게 하여 구리 인터커넥트의 병목 문제를 완화한다. 

OCI 사양은 OCI 웹페이지에서 확인할 수 있으며 전력, 지연 시간 및 비용 최적화를 위해 설계되었다. 이 기술은 비제로 복귀(Non-Return to Zero, NRZ) 변조 방식과 파장 분할 다중화(WDM) 광학 기술을 결합하고 연결 패러다임을 모듈 중심에서 반도체 중심 모델로 전환한다. 광학 기술을 컴퓨팅 및 네트워크 반도체와 더욱 밀접하게 통합함으로써 OCI는 대역폭 밀도와 시스템 확장성을 대폭 향상시키는 동시에 기존 구리 기반 연결이 요구하는 엄격한 전력 목표를 충족할 수 있도록 지원한다. 

최첨단 컴퓨팅과 최첨단 광학 기술의 결합

OCI MSA는 상호 운용 가능한 광학 인터페이스 프로토콜을 구축함으로써 ‘플러그 앤 플레이(plug-and-play)’ 생태계를 구현한다. 이러한 개방형 상호 운용 사양을 통해 하이퍼스케일러는 공통 광학 물리 계층(PHY)을 기반으로 최상위 프로세서 유닛(XPU) 엔진과 최상위 스케일업 스위치를 분리할 수 있으며, 이를 통해 최고 수준의 컴퓨팅이 최첨단 광학 기술과 결합할 수 있도록 지원한다. 

표준화된 로드맵은 통합 위험을 획기적으로 줄이고 개발 주기를 단축하며, 전체 AI 랙 공급망에 여러 세대와 다수 벤더에 걸친 광학 인터커넥트 구축을 위해 명확하고 안정적인 경로를 제공한다. 

통합 기술 로드맵

OCI MSA는 전체 AI 랙 공급망을 위한 확장 가능한 개방형 사양 로드맵을 제공하며, 이를 통해 여러 세대의 하드웨어에 걸쳐 다수 벤더의 광학 물리 계층 및 인터커넥트 구축을 구현한다. 

표준화된 고밀도 인터페이스: OCI GEN1 4λ x 50Gbps NRZ(방향당 200Gbps)와 OCI GEN2 방향당 400Gbps 양방향(BiDi) 기술을 추진하며, 광섬유당 최대 800Gbps 전송 속도까지 도달

대규모 확장성: 파장 수와 데이터 전송 속도를 지속적으로 확장해 광섬유당 3.2Tbps 이상을 달성하는 로드맵을 제시한다. 이를 통해 더 많은 GPU 수와 GPU당 더 높은 대역폭을 갖는 스케일업 도메인 구현 가능

상호 운용 가능한 폼팩터: 플러그형, 온보드, 코패키지드 옵틱스(CPO) 등을 지원

대규모 환경에서의 효율성: 기존 구리 기반의 연결에서만 가능했던 수준의 성능, 전력 및 비용 목표를 충족하면서도 훨씬 더 긴 전송 거리를 제공하는 광학 솔루션

참여 기업 관계자 발언

AMD 기술 및 엔지니어링 부문 수석 부사장 브라이언 애믹(Brian Amick)은 “이번 10년 후반에 대규모 AI 시스템을 지원하기 위해 광학 기반 스케일업 인터커넥트의 필요성이 크게 증가할 것이라는 점은 분명하다.”며, “AMD는 창립 멤버로서 OCI MSA를 강력히 지지하고 있으며, 이는 업계가 강력한 멀티벤더 광학 스케일업 인터커넥트 생태계를 구축할 수 있도록 하는 개방형 사양 마련에 기여할 것이다.”고 전했다. 

브로드컴 광학 시스템 부문 부사장 겸 총괄 매니저 니어 마갈릿(Near Margalit)은 “브로드컴은 여러 세대에 걸쳐 발전해 온 CPO 플랫폼과 업계 파트너십을 기반으로 OCI 사양 발전을 이끌게 된 것을 자랑스럽게 생각한다.”며, “OCI MSA는 기존 전기식 SerDes 기반 ASIC과의 원활한 통합을 가능하게 하는 동시에 ASIC 직접 통합으로 나아갈 수 있는 명확한 경로를 제공해 생태계가 유연성과 높은 성능을 유지할 수 있도록 한다.”고 말했다. 

메타 하드웨어 시스템 부문 부사장 댄 라비노비츠(Dan Rabinovitsj)는 “AI 클러스터 설계에 영향을 미치는 전력 및 비용 제약을 해결할 수 있는 기술에 대한 수요는 매우 현실적이며 시급하다.”며 “우리는 고성능 AI 클러스터에서 전기식 백플레인의 한계로부터 대규모 스케일업 도메인의 필요성을 분리할 수 있도록 이 OCI 프로토콜의 채택을 권장한다.”고 밝혔다. 

마이크로소프트 애저(Azure) 시스템 및 아키텍처 부문 수석 부사장 사우라브 디게(Saurabh Dighe)는 “스케일업 중심의 광학 기술, 프로토콜, 스위치 아키텍처는 확장 가능한 멀티 랙 고성능 AI 컴퓨팅 도메인 구축의 핵심적인 기반이다.”며, “OCI MSA는 미래 지향적인 물리 계층 사양을 통해 이러한 비전을 한층 발전시키며, 개방형 표준과 차별화된 구현, 시스템 아키텍처 혁신의 토대를 마련한다.”고 말했다. 

엔비디아 네트워킹 부문 수석 부사장 길라드 샤이너(Gilad Shainer)는 “엔비디아는 전 세계 AI 인프라 전반에 공통 광학 표준을 구축하기 위해 OCI MSA의 창립 멤버로 참여했다.”며, “최고 수준의 컴퓨팅을 최첨단 광학 기술과 결합함으로써 OCI MSA는 차세대 초지능 시대에 필요한 규모와 성능을 제공할 수 있다.”고 언급했다. 

오픈 AI 하드웨어 총괄 리처드 호(Richard Ho)는 “인공지능의 지속적인 발전은 더 많은 페타플롭스(petaflops), 더 높은 메모리 대역폭, 그리고 무엇보다 더 넓은 영역에서 더 긴 전송 거리를 지원하는 더 높은 네트워크 대역폭을 갖춘 AI 슈퍼컴퓨터의 확장에 달려 있다. OCI MSA는 업계가 AGI에 도달하기 위한 AI 시스템을 구축하는 데 있어 중요한 역할을 하게 될 것이다.”고 설명했다.

OCI MSA에 대한 더욱 자세한 정보는 OCI MSA 웹사이트에서 확인할 수 있다.