Arm은 자사 컴퓨팅 플랫폼의 다음 단계 진화를 발표하며, 창사 이래 처음으로 이를 양산형 실리콘 제품으로 확장한다고 밝혔다. 이는 Arm이 설계한 AI 데이터센터용 CPU인 Arm AGI CPU의 출시로 시작되며, 증가하는 에이전틱 AI 워크로드에 대응하기 위해 개발되었다. 

지난 30여 년간 업계는 Arm 컴퓨팅 플랫폼을 기반으로 혁신을 거듭하며, 수천억 대에 이르는 다양한 디바이스에서 확장 가능하고 전력 효율적인 컴퓨팅을 구현해 왔다. AI가 글로벌 컴퓨팅 인프라를 재편하는 가운데, 에코시스템 전반의 파트너는 Arm 기술을 보다 대규모로 배포할 수 있는 방법을 요구하고 있다. 이에 Arm은 기존 IP 및 컴퓨팅 서브시스템(CSS)을 넘어 자체 설계한 실리콘 제품까지 플랫폼 전략을 확장하고 있다. 이를 통해 파트너들에게 Arm 기반 구축을 위한 가장 폭 넓은 옵션을 제공하고 AI 에코시스템 전반에서 보다 빠른 혁신을 가능케한다.

르네 하스(Rene Haas) Arm CEO

르네 하스(Rene Haas) Arm CEO는 “AI는 컴퓨팅의 구축과 배포 방식을 근본적으로 재정의했다. 에이전틱 컴퓨팅은 이러한 변화를 더욱 가속화하고 있다”면서 “이번 발표는 Arm 컴퓨팅 플랫폼의 다음 단계이자, Arm에 있어 중요한 전환점이 될 것이다. Arm AGI CPU를 통한 양산형 실리콘 제공으로 확장함에 따라, Arm은 파트너에게 Arm의 고성능, 고효율 컴퓨팅 기반 위에서 더 많은 선택지를 제공하며, 전 세계적으로 에이전틱 AI 인프라를 구축할 수 있게 됐다”고 말했다. 

에이전틱 AI, 인프라 재편… CPU 수요 확대 견인

AI 에이전트의 등장은 글로벌 컴퓨팅 환경에 중대한 전환점을 만들고 있다. AI가 모델 학습에서 추론, 계획, 실행을 지속적으로 수행하는 에이전트 배포 단계로 전환됨에 따라, AI 시스템 전반에서 생성되는 토큰의 양이 급격히 증가하고 있다. 이 과정에서 추론 처리, 작업 간 조율, 데이터 이동을 처리하기 위해 훨씬 더 많은 CPU가 필요하게 됐다.

기업이 에이전트 기반 애플리케이션으로 확장하면서, 데이터센터는 기존 기가와트(GW)당 CPU 용량의 4배 이상을 필요로 할 것으로 예상된다*. 이는 동일한 전력 범위 내에서 더 많은 컴퓨팅 성능을 요구하게 된다. 이러한 추세는 높은 토큰 처리량을 유지할 수 있는 성능, 실제 전력 제약 내에서 운용할 수 있는 효율성, 그리고 x86 프로세서의 복잡성과 오버헤드 없이 구축된 간소화된 아키텍처를 제공하는, AI 규모 인프라에 최적화된 새로운 CPU에 대한 수요를 촉발하고 있다. 

Arm 플랫폼, 양산형 실리콘으로 확장

Arm은 파트너들이 새로운 환경에서 더 빠르게 대응할 수 있도록 에이전틱 데이터센터의 기반이 될 것으로 기대되는 Arm AGI CPU를 선보인다. 실리콘 제품으로의 확장은 Arm IP 라이선스, Arm CSS 도입 또는 Arm 설계 실리콘 배포 등 Arm 기반 인프라를 구축하고 배포하는 방식에 있어 에코시스템에 더 큰 유연성을 제공한다.

Arm AGI CPU 특징

성능: CPU당 최대 136개의 Arm Neoverse V3 코어를 탑재해 코어, SoC, 블레이드, 랙당 업계 최고 수준의 성능을 제공하며 코어당 6GB/s 메모리 대역폭과 100ns 미만의 지연 시간을 지원한다. 확장성: 프로그램 스레드당 전용 코어를 갖춘 300 와트 TDP는 지속적인 부하에서도 예측 가능한 성능을 보장하며, 스로틀링 및 유휴 스레드 발생을 방지한다. 효율성: 공랭식 배치를 지원하는 고밀도 1U 서버 섀시에서 랙당 최대 8,160개 코어를 지원하며, 수랭식 시스템에서는 랙당 4만 5천코어 이상을 제공한다. 

이러한 기능은 워크로드 밀도 향상, 가속기 활용도 개선, 기존 전력 범위 내 더 효율적인 컴퓨팅 성능 구현으로 이어진다. 이는 AI 인프라가 확장에 있어 매우 중요한 이점으로 작용한다. Arm AGI CPU는 x86 CPU 대비 랙당 2배 이상의 성능을 제공하며, AI 데이터센터 용량 1GW 기준 최대 100억 달러 규모의 CAPEX 절감을 가능케한다.

Arm AGI CPU 위한 폭넓은 에코시스템 지원

선도 파트너이자 공동 개발사인 메타는 Arm AGI CPU를 활용해 자사 애플리케이션군의 인프라를 최적화하고 있다. 또한 메타의 자체 실리콘 MTIA(Meta Training and Inference Accelerator)와 함께 협력해 대규모 AI 시스템에서 보다 효율적인 오케스트레이션을 지원한다. Arm과 메타는 향후 Arm AGI CPU 로드맵의 여러 세대에 걸쳐 협력을 이어갈 계획이다. 

산토시 야나르단(Santosh Janardhan) 메타 인프라 책임자는 “전 세계적으로 AI 경험을 제공하기 위해서는 AI 워크로드를 가속화하고 메타 플랫폼 전반에서 성능을 최적화하도록 설계된 맞춤형 실리콘 솔루션의 강력하고 유연한 포트폴리오가 필요하다”며 “Arm AGI CPU를 개발하기 위해 메타는 Arm과 긴밀히 협력했으며, 이를 통해 데이터센터의 성능 밀도를 크게 향상시키고 변화하는 AI 시스템을 위한 다세대 로드맵을 지원하는 효율적인 컴퓨팅 플랫폼을 배포한다”고 말했다. 

Arm은 메타와 더불어 세레브라스, 클라우드플레어, F5, 오픈AI, 포지트론(Positron), 리벨리온, SAP, SK텔레콤 등 주요 파트너와의 협력을 통한 추가적인 사업적 모멘텀도 확정했다. 이들 기업은 Arm AGI CPU를 도입해 가속기 관리, 컨트롤 플레인 처리, 클라우드 및 엔터프라이즈 환경에서의 API, 작업 및 애플리케이션 호스팅 등 주요 에이전틱 AI 워크로드에 활용할 예정이다. 

이러한 확장을 가속화하기 위해 Arm은 애즈락랙, 레노버, 콴타 컴퓨터, 슈퍼마이크로 등 주요 OEM 및 ODM과 협력하고 있다. 초기 시스템은 이미 제공되고 있으며, 올해 하반기에 보다 광범위하게 출시될 예정이다. 

또한 AWS, 브로드컴, 구글, 마벨, 마이크론, 마이크로소프트, 엔비디아, 삼성, SK하이닉스, TSMC 등 업계 리더를 포함한 하이퍼스케일, 클라우드, 실리콘, 메모리, 네트워킹, 소프트웨어, 시스템 설계 및 제조 분야에 속한 50개 이상의 선도 기업이 Arm 컴퓨팅 플랫폼의 실리콘 확장을 지원하고 있다. 

Arm 컴퓨팅 플랫폼의 새로운 시대

수십 년간 업계는 Arm의 업계 최고 수준의 IP와 최근 도입된 Arm CSS를 통해, 고성능 및 전력 효율적 컴퓨팅 기반 위에서 Arm 컴퓨팅 플랫폼을 구축해왔다. Arm AGI CPU를 통한 양산 실리콘으로의 확장은 이러한 진화의 다음 단계로, Arm을 데이터센터 실리콘으로 확장하고 전력 효율적인 아키텍처를 대규모 AI 인프라에 활용하는 것을 의미한다.