AMD MI355X GPU, MLPerf 추론에서 강력한 성과로 데뷔

AMD가 최신 MI355X GPU에 대한 첫 MLPerf 제출을 포함한 인상적인 MLPerf 추론 결과를 발표했다. 

이번 발표는 AMD의 AI 성능과 확장성에서의 중요한 발전을 보여주고 있다. 

주요 내용은 다음과 같다.

성능 및 확장성: 라마(Llama) 2-70B에서 강력한 성능을 발휘했으며, 다중 노드 MI355X 제출을 통해 인상적인 확장성을 입증했다.

효율성 및 워크로드 확장: 가지치기된 라마 3.1-405B 모델을 통해 모델 효율성이 크게 향상되었으며, 라마 2-70B 인터렉티브(Interactive), 믹스트랄 8x7B(Mixtral-8x7B), SD-XL에 대한 최초 제출을 통해 워크로드 범위가 확장되었다.

MLPerf 최초 사례: MI300X 및 MI325X GPU를 활용한 다중 노드 이기종 추론이 최초로 이루어졌으며, 에이수스(ASUSTek), 델(Dell), 슈퍼마이크로(Supermicro) 등과의 강력한 파트너 협업도 포함되었다.

이러한 MLPerf v5.1 결과는 업계 협업 및 AI 모델 최적화와 더불어, AMD의 AI 확장성, 성능, 소프트웨어 혁신 및 오픈소스 기여에 대한 리더십을 입증한다.

자세한 내용은 AMD 블로그에서 확인할 수 있다.