AI 워크로드 최적화, AMD 랩트 AI와 협력

권경욱 기자 IT 0 0 03.27 10:10

AI 도입이 빠르게 확산되고 있는 가운데, 연산 자원 수요 증가, GPU 관리 복잡성, 비효율적인 인프라 운용 등이 혁신의 걸림돌로 작용하고 있다.

이러한 과제를 해결하기 위해 AMD는 오늘 AI 기반 워크로드 자동화 솔루션 기업인 랩트 AI(Rapt AI)와의 협업을 발표했다.

이번 협업을 통해 AMD 인스팅트(AMD Instinct) GPU에서 AI 추론 및 학습 워크로드의 성능과 관리를 향상시키고, 고객에게 확장 가능하고 비용 효율적인 AI 애플리케이션 구축 환경을 제공한다.

주요 내용은 다음과 같다.

비용 효율적인 AI 구현: 인스팅트 GPU와 랩트 AI의 지능형 워크로드 자동화 기술을 결합해 GPU 활용률을 극대화하고, 총 소유 비용(TCO)을 절감하며, AI 추론 및 학습에 필요한 자원을 최적화한다.

간편한 구축 및 확장성: 온프레미스와 멀티 클라우드 환경 전반에서 GPU 관리를 간소화해, AI 서비스 배포를 손쉽게 하고 지능적인 작업 밀도 조절 및 자원 할당을 통해 추론 성능을 향상시킨다.

최적화된 성능 및 미래 대응: 인스팅트 GPU에서 즉각적인 성능 향상을 제공하며, GPU 스케줄링, 메모리 활용 등 추가 최적화를 위한 지속적인 협업을 이어갈 예정이다.

AMD와 랩트 AI 협업에 대한 자세한 내용은 랩트 AI에서 확인할 수 있다.