硬體 發布日期:
AMD 新一代 Ryzen AI Halo:Ryzen AI Max+ PRO 495,統一記憶體最高 192 GB
AMD 在 10 月 12 日推出新一代 Ryzen AI Halo 開發者平台,採用 Ryzen AI Max+ PRO 495,具備 16 核 Zen 5 CPU、40 組 RDNA 3.5 GPU 運算單元,以及最高 192 GB 的 LPDDR5x 統一記憶體。其中最多 160 GB 可以分配給 GPU 當顯示記憶體,AMD 表示足以用 4-bit 量化執行 3,000 億參數以上的模型。整機附經過驗證的 ROCm 軟體環境,透過 Micro Center 販售,Windows 版本則標示為即將推出。
對地端使用者的意義
比上一代 Ryzen AI Max+ 395 的 128 GB 上限多出 64 GB,但記憶體頻寬約 273 GB/s,大型密集模型生成速度會偏慢;啟用參數少的 MoE 模型最能發揮它的優勢。
來源
閱讀官方原文:AMD blog ↗摘要由地端世界依官方來源撰寫,附上原文連結,不轉載原文。