AI 및 HPC 워크로드에서 향상된 성능과 확장성 제공, AMD 최신 ROCm 6.3 버전 발표

AMD가 오픈 소스 소프트웨어 ROCm의 최신 6.3 버전을 발표했다. 

AMD ROCm 6.3은 AI 및 HPC 워크로드에서 더 나은 성능과 확장성을 제공하는 동시에 개발을 간소화하는 최신 도구를 제공한다. 

ROCm 6.3의 주요 특징은 다음과 같다.

SGLang – AMD 인스팅트(Instinct) GPU에서 LLM 및 VLM과 같은 최첨단 생성형 모델의 추론을 최적화하도록 개발되었습니다. LLM 추론에서 최대 6배 더 높은 처리량을 제공한다.

차세대 트랜스포머(Transformer) 최적화 – ROCm 6.3에 최적화된 플래시어텐션-2(FlashAttention-2)는 트랜스포머 모델 학습 및 추론을 최대 3배까지 가속화하여 기업용 AI의 출시 기간을 단축한다.

AMD 포트란(Fortran) 컴파일러 – 레거시 HPC 애플리케이션의 GPU 가속을 간소화하여 광범위한 코드 변경 없이 직접 오프로드 가능하며, 이전 버전과의 호환성 및 손쉬운 통합성을 제공한다.

rocFFT의 새로운 다중 노드 FFT – 다중 노드 FFT 지원은 더 큰 데이터 세트에서 고성능 FFT 계산을 가능하게 하여 석유 및 가스, 과학 연구와 같은 분야에서 효율성 및 의사 결정 개선 효과를 제공한다.

향상된 컴퓨터 비전 라이브러리 – AV1 및 rocJPEG 등 향상된 비전 라이브러리는 개발자가 비디오 분석 및 데이터 세트 증강과 같은 다양한 워크로드를 위한 고급 AI 솔루션을 구축할 수 있도록 지원하여, 미디어 및 엔터테인먼트에서 자율 시스템에 이르기까지 다양한 산업을 지원한다.

AMD ROCm 6.3에 대한 더 자세한 내용은 여기에서 확인할 수 있다.