AMD 윈도우 AI PC, 로컬 128B 파라미터 LLM 지원

AMD가 국내 시각 7월 29일 오후 10:00시(미국 동부 시각 기준 7월 29일 오전 9:00시)에 새로운 KB 드라이버를 발표했다. 

이는 아드레날린 에디션 25.8.1 드라이버의 일부로 포함되며, 라이젠(Ryzen™) AI 맥스+ 395 128GB 프로세서를 통해 최대 128B 파라미터의 대형 언어 모델(LLM)을 윈도우에서 로컬로 실행할 수 있도록 한다. 

이번 성과는 메타의 라마 4 스카우트 109B(Llama 4 Scout 109B) 모델의 비전 기능 및 MCP(Model Context Protocol)를 라마.ccp(llama.cpp)와 불칸(Vulkan)을 통해 지원함으로써, 이 크기의 모델을 실행할 수 있는 최초의 소비자용 프로세서로 위상을 확립했다. 

AMD VGM(Variable Graphics Memory)의 개선을 통해 시스템 램을 재할당하여 최대 96GB의 연속적이고 전용된 그래픽 메모리를 iGPU에 사용할 수 있도록 함으로써, 외장 GPU 없이도 대형 모델(4비트 기준 128B 또는 FP16 기준 32B)을 로컬에서 실행할 수 있다. 

이번 아드레날린 드라이버 업데이트를 통해 AMD는 다음과 같은 기능을 제공한다. 

비전 기능 및 툴 사용을 포함한 라마 4 스카우트 109B 모델을 로컬에서 실행할 수 있는 최초의 윈도우 AI PC 

장문의 문서, 다단계 추론 및 AI 에이전트 워크플로우를 위한 256,000 토큰 컨텍스트 윈도우 지원

경량 어시스턴트부터 코딩 및 시각 작업용 고급 툴에 이르기까지 다양한 모델을 유연하게 실행 가능