Equinix 그록과 IBX 데이터센터에 인프라 구축, 아시아 태평양 지역에 저지연 AI 추론 제공

AI 추론 분야 글로벌 선도 기업인 그록(Groq)이 호주 시드니 소재 Equinix International Business Exchange™(IBX®) 데이터센터에 인프라를 구축하며, 자사의 글로벌 AI 인프라를 아시아 태평양 지역으로 확장했다. 

미국과 유럽, 중동 및 아프리카 지역 출시 이후, 이번 협력을 통해 그록의 빠르고 저렴하며 확장 가능한 LPU 추론 엔진이 한국 및 아시아 태평양 전역의 기업과 공공 부문에 확대 제공된다. 

이번 파트너십을 통해 그록과 Equinix는 호주 시드니에 4.5MW 규모의 그록 시설을 구축하여, 호주 최대 규모의 고속 AI 추론 인프라 중 하나를 마련할 예정이다. 이 시설은 기존 GPU 및 하이퍼스케일 클라우드 보다 최대 5배 더 빠르고 비용 효율적인 컴퓨팅 성능을 제공한다. 소프트웨어 정의 상호연결 서비스인 Equinix Fabric®을 활용하여 아시아 태평양 지역 기업들은 안전하면서 지연 시간이 짧은 고속 상호연결성을 통해 생산 AI 워크로드를 위한 그록클라우드™(GroqCloud™)에 원활하게 접근하고, 완벽한 제어 및 규제 준수를 충족할 수 있다. 

아시아 태평양 지역에서 AI 기반 솔루션에 대한 수요와 도입이 지속적으로 증가하고 있다. IDC의 최신 전 세계 AI 및 생성형 AI 지출 가이드(Worldwide AI and Generative AI Spending Guide)’에 따르면, 아시아 태평양 지역의 AI 및 생성형 AI 투자는 2028년까지 1,100억 달러에 달할 것으로 예상되며, 2023년부터 2028년까지 연평균 24.0%의 성장률을 기록할 것으로 전망된다. 

Equinix의 글로벌 인프라 및 벤더 중립적인 연결 솔루션과 그록의 최첨단 AI 추론 기술을 결합함으로써, 기업은 비용 효율성과 속도를 유지하면서 AI 워크로드를 효율적으로 확장할 수 있다. 

인용문:

클리프 오브레히트(Cliff Obrecht) 캔바 공동창업자 겸 최고운영책임자(COO): “기술이 인간의 창의성을 폭발적으로 가속화할 수 있는 새로운 시대에 접어들고 있다. 호주의 AI 및 컴퓨팅 인프라 역량이 강화되는 가운데, 캔바는 2억 6천만 명 이상의 사람들이 완전히 새로운 방식으로 아이디어를 실현할 수 있도록 계속 지원해 나갈 수 있기를 기대한다.” 

조나단 로스(Jonathan Ross) 그록 CEO 겸 창립자: “전 세계적으로 모든 기업이 AI를 구축할 만큼 충분한 컴퓨팅 자원을 갖추고 있는 것은 아니다. 이에 그록과 Equinix는 호주를 시작으로 접근성을 확대하고 있다.”

스콧 알빈(Scott Albin) 그록 아태지역 총괄: “그록클라우드를 사용하는 개발자 중 절반 이상이 아시아 태평양 지역에 있는 만큼, 이 지역은 그록에게 핵심 성장 시장이다. Equinix 시드니 데이터센터에 인프라를 구축한 것은 고성능의 비용 효율적인 AI 추론 솔루션을 아태지역에 더 가깝게 제공하기 위한 첫 걸음으로, 데이터 주권과 프라이버시를 보장하면서 안전한 저지연 접근을 지원한다. 양사는 아시아 태평양 지역의 AI 혁신과 성장을 주도할 인프라를 공동 구축하고 있다.” 

사이러스 아다그라(Cyrus Adaggra), Equinix 아시아 태평양 사장: “그록은 AI 추론 분야의 선도 기업이다. 그록이 Equinix를 통해 고성능 인프라를 전 세계로 빠르게 확장하고 있어 기쁘다. Equinix의 독보적인 에코시스템과 글로벌 데이터센터 네트워크는 고객과 클라우드, 파트너 간 연결의 허브 역할을 하며, 대규모 엔터프라이즈 AI 워크플로우를 효율적으로 지원하고 있다.” 

주요 발표 내용:

대규모 AI 성능 – 맞춤형 컴파일러로 최적화된 그록의 LPU 추론 엔진은 차세대 오픈소스 LLM에서 추론을 위한 탁월한 처리량과 지연 시간을 제공한다.

AI 추론 전용 설계 – LPU는 즉각적인 속도, 탁월한 경제성, 대규모 에너지 효율성을 제공한다. GPU와 근본적으로 다른 LPU는 AI 추론과 언어 처리를 위해 설계됐다.

Equinix Fabric – 그록은 Equinix의 온디맨드 소프트웨어 정의 상호연결 서비스(software-defined interconnection service)를 활용해 37개국 270개 이상의 Equinix 시설에서 기업과 클라우드, 파트너 및 디지털 에코시스템을 안전하게 연결한다.

확장 가능한 혁신 – 이번 파트너십은 Equinix가 차세대 AI 기업이 자체 인프라를 구축 없이도 글로벌 확장이 가능하도록 지원하는 방식을 보여준다. 그록 기술은 누구나 그록클라우드를 통해 접근할 수 있으며, 기업 및 파트너는 클라우드 또는 온프레미스 AI 컴퓨팅 센터 구축 중 선택할 수 있다.