AMD AI 인프라 기반으로 기업과 소버린 AI 배포 강화, AMD와 코히어 글로벌 AI 협력 확대

AMD 는 보안 중심 엔터프라이즈 AI 기업인 코히어(Cohere)와의 글로벌 협력을 여러 방면으로 확대한다고 24일 발표했다. 

코히어 고객들은 ‘커맨드 A(Command A)’, ‘커맨드 A 비전’, ‘커맨드 A 번역 모델’, ‘노스(North)’ 등 코히어의 전체 AI 제품군을 AMD 인스팅트(Instinct) GPU 기반 인프라에서 사용할 수 있다. 

이를 통해 전 세계 기업 및 소버린 AI 프로젝트는 성능과 총 소유 비용(TCO)에 대한 목표를 달성할 수 있는 더 많은 선택지를 확보하고, AI 계획의 현실화를 앞당길 수 있게 된다. 

또한, AMD는 코히어의 노스 플랫폼을 자사의 내부 엔터프라이즈 AI 포트폴리오에 통합할 계획이라고 밝혔다. 이에 따라 코히어의 기술은 AMD 내부 및 엔지니어링 AI 워크로드의 핵심 요소로 활용된다. 

코히어의 공동 설립자인 닉 프로스트(Nick Frosst)는 "AMD 인스팅트 GPU에서 코히어의 여러 모델과 노스를 사용할 수 있게 되면서 AMD와의 관계를 더욱 확장하게 되어 기쁘다”며, “공공 및 민간 부문 고객들이 우리의 기본 모델 및 보안 최적화된 엔터프라이즈 AI 제품 전체를 AMD 인프라에서 실행할 수 있게 되면, 코히어의 AI 배포 방법이 훨씬 더 큰 유연성을 갖게 될 것”이라고 말했다. 또한 그는 "AMD는 AI 인프라를 통해 매력적인 TCO를 제공하기 때문에 전 세계 소버린 AI 프로젝트의 훌륭한 선택지가 될 것"이라고 덧붙였다. 

AMD의 AI 부문 수석 부사장인 밤시 보파나(Vamsi Boppana)는 “코히어의 풀스택 AI 솔루션이 AMD 인스팅트 인프라에 배포할 수 있게 되면서 기업과 정부는 뛰어난 성능, 효율성 및 메모리 용량 등을 바탕으로 AI를 확장할 수 있게 되었다”며, “AMD의 AI 컴퓨팅 플랫폼을 통해 고객들은 총 소유 비용과 에너지 효율이라는 두 가지 이점을 동시에 누릴 수 있어 기업과 정부가 AI 혁신을 가속화하는 데 큰 이점이 될 것"이라고 말했다. 

AMD AI 인프라에 최적화된 코히어 AI 모델 

이번 발표는 AMD와 코히어가 AMD 인스팅트 GPU 기반 인프라에서 코히어의 엔터프라이즈 초거대 언어모델(LLM)을 최적화해 온 그간의 협업을 확장하는 것이다. 

코히어는 지난 6월 열린 AMD의 ‘어드밴싱 AI 2025(Advancing AI 2025)’ 행사에서 AMD 기술로 구동되는 자사의 모델들이 이미 다양한 기업에 배포되고 있다고 밝혔다. 이 모델들은 긴 문장의 맥락을 추론하고, 복잡한 워크로드를 처리하기에 충분한 메모리 대역폭과 용량을 제공하면서 배포 규모를 줄이고 AI 인프라 운영의 총 소유 비용을 낮추는 효과를 발휘한다. 

보안성과 프라이버시를 강조하는 코히어의 AI 모델에 AMD의 고성능 AI 인프라가 결합되면서 두 회사는 국가 데이터, 보안, 규제 요건을 준수하는 소버린 AI 구축을 지원할 수 있게 됐다. AMD AI 인프라에서 코히어 엔터프라이즈 AI 모델을 제공함으로써 정부와 기업은 각자의 조건에 맞는 유연성을 갖추면서도 동시에 신뢰할 수 있는 AI 시스템을 구축할 수 있는 기반을 마련한다.