오라클 클라우드 인프라스트럭처, 에이전틱 AI 가속화에 따라 Arm AGI CPU 에코시스템 합류

모하메드 아와드(Mohamed Awad) Arm 클라우드 AI 사업부문 총괄 수석부사장(EVP)

3월 24일에 열린 Arm 에브리웨어에서 Arm은 에이전틱 AI가 데이터센터 내 CPU 수요를 크게 증가시킬 것이라고 전망했다. 불과 두 달 만에 시장은 당시 예상보다 훨씬 더 빠르게 움직이고 있다.

이러한 가운데, Arm 은 오늘 컴퓨텍스에서 오라클 클라우드 인프라스트럭처(OCI)가 Arm AGI CPU 에코시스템에 합류한다고 발표했다. 이는 Arm 에브리웨어에서 공개한 모멘텀의 연장선으로, 당시 Arm은 세레브라스, 클라우드플레어, F5, 메타, 오픈AI, 포지트론, 리벨리온, SAP, SK텔레콤, 베르다 등 주요 고객사와의 협력을 공유한 바 있다. 

마헤시 티아가라잔(Mahesh Thiagarajan) 오라클 클라우드 인프라스트럭처 EVP는 “OCI는 우버와 같은 고객 사례를 포함해 대규모 클라우드 네이티브 워크로드 전반에서 Arm 기반 인프라의 강력한 성장세를 확인하고 있으며, Arm AGI CPU가 이러한 이점을 차세대 에이전틱 AI 시스템에서 확장할 수 있는 가능성을 기대하고 있다”며 “고성능 Arm 컴퓨팅과 OCI의 확장 가능한 클라우드 인프라를 결합함으로써 Arm AGI CPU는 고객들이 보다 효율적이고 조율된 AI 환경을 대규모로 구축할 수 있도록 지원할 잠재력이 있다고 본다”고 말했다. 

이러한 AGI CPU 배포 사례는 하이퍼스케일러, AI 모델 제공업체, 엔터프라이즈, 클라우드 인프라 선도 기업 등 다양한 영역으로 확산되고 있으며, 에이전틱 AI에 최적화된 인프라에 대한 수요가 커지고 있음을 보여준다. 

예상보다 빠르게 도래한 에이전틱 시대

에이전틱 AI의 급속한 성장은 지난 3월 Arm이 제시한 전망이 현실화되고 있음을 입증한다. 앤트로픽의 연환산 매출(ARR)이 작년 말 약 90억 달러에서 올해 5월 기준 500억 달러에 육박하는 수준으로 증가했으며, 다양한 산업 분야의 기업들은 점점 더 정교해지는 AI에이전트 도입에 속도를 내고 있다. 불과 70일 전만 해도 전망에 그쳤던 변화가 예상보다 더 빠르게 확산되고 있는 것이다. 

에이전틱 워크로드는 툴, 서비스, 데이터 소스를 지속적으로 조정하면서, 작업을 조율하고 코드를 실행하며, 점점 더 분산되는 시스템 전반에서 컨텍스트를 유지한다. 그 결과, 실제 처리 작업의 상당 부분이 모델 자체 밖에서 이뤄지고 있다. 세미애널리시스(SemiAnalysis)는 최근 현대적인 에이전틱 코딩 워크로드에서 실행 시간 중 42%가 CPU 기반 툴 사용에 소요된다고 추산했으며, 이는 AI 인프라에서 CPU의 중요성이 커지고 있음을 시사한다.

에이전틱 CPU

에이전틱 시대를 위해 설계된 Arm AGI CPU는 기존 x86 CPU 대비 랙당 2배 이상의 성능을 제공하며, 클라우드 기업과 AI 인프라 운영 기업이 전력 및 발열 제약 범위 내에서 컴퓨팅 밀도를 획기적으로 높일 수 있도록 지원한다. 

Arm은 Arm 에브리웨어에서 Arm AGI CPU가 AI 인프라 용량 1기가와트 당 운영사의 자본 지출을 최대 100억 달러까지 절감할 수 있을 것으로 추정했다. 에이전틱 AI 도입이 가속화되고 있는 만큼, Arm은 그 경제적 파급 효과 또한 더욱 커질 수 있을 것으로 보고 있다. 

올해 컴퓨텍스에서 슈퍼마이크로는 애즈락랙, 레노버 등 에코시스템 파트너들의 시스템과 함께, 공랭식 및 수랭식 랙 스케일 배포를 모두 지원하는 새로운 Arm AGI CPU 플랫폼을 선보였다. 

Arm Neoverse 모멘텀 지속 확대

Arm AGI CPU 도입을 촉진하는 동일 요인들이 클라우드 전반에서 Arm Neoverse의 확산도 가속화하고 있다. 

구글은 최근 x86 CPU를 대체하는 자사의 최신 TPU 시스템의 헤드 노드로 액시온(Axion)을 발표했다.

AWS 역시 그래비톤(Graviton) 배포를 지속적으로 확대하고 있으며, 스노우플레이크 등 주요 고객사들의 에이전틱 워크로드 지원하기 위해 Arm 기반 인프라에 대한 수요를 늘리고 있다. AWS는 또한 차세대 AI 서비스 지원을 위해 추가적인 그래비톤 용량을 요청하는 고객이 늘고 있다고 밝힌 바 있다.

엔비디아의 Arm 기반 베라(Vera) 플랫폼은 오픈AI, 앤트로픽, 스페이스X 등 여러 고객사에 배포되고 있으며, 이는 고도로 통합된 랙 스케일 시스템에서 AI 가속기와 함께 작동하는 목적 특화형 CPU의 가치를 다시 한번 입증하고 있다. 

이러한 배포 사례는 Arm 기반 CPU가 현대 AI 인프라의 핵심 운영 축으로서 입지를 더욱 확고히 하고 있음을 보여준다. 

에이전틱 시대의 아키텍처 정의

지난 두 달의 행보는 에이전틱 AI가 CPU의 전략적 중요성을 더욱 높이고 있다는 하나의 명확한 현실을 재확인시켜 주었다. 

에이전틱 AI는 데이터센터에만 국한되지 않을 것이다. 에이전트는 클라우드 AI 인프라, 엣지 AI 디바이스, 피지컬 AI 시스템을 아우르며 확장될 것이다. Arm은 광범위하게 구축된 컴퓨팅 플랫폼을 통해 에이전틱 시대의 기반을 제공할 수 있는 독보적인 위치에 있다.