클라우드플레어 AI 지원 기업들과 협력, 기업들이 고객에게 AI를 제공하는 방식을 간소화하도록 지원

클라우드플레어는 메타와 협력하고 AI 앱 개발자들이 클라우드플레어의 개발자 플랫폼인 워커스(Workers)를 통해 라마 2를 이용할 수 있도록 지원한다. 

현재 100만 명 이상의 개발자들이 이미 클라우드플레어를 기반으로 주요 LLM을 사용하여 자신의 애플리케이션을 보강하고 있다. 개발자는 클라우드플레어의 초분산 엣지 네트워크를 활용하여 장소에 구애받지 않고 라마 2로 애플리케이션을 구축할 수 있다. 

클라우드플레어는 자사의 글로벌 네트워크에 엔비디아 이더넷 스위치를 통합하고, 엣지에 엔비디아 GPU를 배치하여 전 세계 사용자들에게 AI 추론 컴퓨팅 파워를 제공한다. 

엔비디아의 풀 스택 추론 소프트웨어도 엔비디아 TensorRT-LLM 및 엔비디아 Triton Inference 서버까지 포함하여 제공하고, 이를 통해 대규모 언어 모델을 포함한 AI 응용 프로그램의 성능을 더욱 가속화한다는 계획이다. 

또한, 클라우드플레어 고객은 인프라를 사용하여 더 빠르고 규정을 준수하는 AI 애플리케이션 및 서비스를 제공하기 위해 로컬 컴퓨팅 파워에 액세스할 수 있다. 기업들은 클라우드플레어를 통해 대규모 AI 워크로드를 실행하고 필요할 때 컴퓨팅 성능 비용을 지불할 수 있게 된다.

클라우드플레어는 허깅페이스와 협력을 통해 개발자가 최고의 오픈 AI 모델을 더욱 쉽고, 합리적으로 배포할 수 있도록 지원한다. 클라우드플레어는 허깅페이스 모델을 배포하는 최초의 서버리스 GPU 프리퍼드 파트너(Preferred Partner)로, 개발자는 인프라를 관리하거나 사용하지 않은 컴퓨터 용량에 비용을 지불하지 않고도 전 세계에 AI를 빠르고 쉽게 배포할 수 있다. 

이번 협력을 통해 개발자는 1) 클라우드플레어에 최적화된 허깅페이스 모델을 이용하고, 2) 허깅페이스에서 클릭 한 번으로 워커스 AI를 배포할 수 있으며 3) 선불 비용 없이 AI를 구축할 수 있게 된다.