최신 MLPerf 추론 6.0 결과, AMD MLPerf 엔드포인트 및 MLPerf 추론 결과 발표

AMD는 최신 MLPerf 추론 6.0 결과를 발표했다. 

이를 통해 AMD 인스팅트(Instinct) MI355X GPU가 새로운 생성형 AI 워크로드에서 초당 100만 토큰 이상의 성능을 달성하고 확장 가능한 추론 성능을 입증했다.

특히 이번 결과는 처리량 측면에서 세대 간 큰 도약을 강조하며, 라마(Llama) 2 70B와 같은 주요 LLM에서 단일 GPU 기준 폭넓은 경쟁력을 입증했다. 

또한 델(Dell), HPE, 시스코(Cisco) 등 강력한 파트너 생태계를 기반으로 안정적인 멀티 노드 확장성도 검증되었다. 

AMD MLPerf 엔드포인트 및 MLPerf 추론 결과에 대한 더욱 자세한 내용은 AMD 공식 블로그에서 확인할 수 있다.