地端世界ONPREM WORLD

M4 Max (16-core CPU / 40-core GPU)

Apple M4 Max (16-core CPU / 40-core GPU):48–128 GB 記憶體、546 GB/s 頻寬。以 128 GB、8K 上下文估算,下表列出它能跑的開源模型。 最高 128 GB 統一記憶體、546 GB/s:128 GB 的 MacBook Pro 或 Mac Studio 能跑 gpt-oss-120b 這類 120B 級 MoE 模型。

最後更新: 2026-10-14

規格

記憶體48–128 GB LPDDR5X[src]
記憶體頻寬546 GB/s[src]
上市2024-11[src]
首發建議售價US$3,699[src]
架構Apple M4 family (second-generation 3 nm; TSMC N3E)[src]
軟體支援Metal / MLX

能跑哪些模型

在 8K 上下文長度下,放得下的最高品質量化版本與預估生成速度。 此為估算值,並非實測。請參考估算方法說明。

模型參數量最佳量化所需記憶體tok/s(預估)
Qwen3.5-122B-A10B122B (10B)Q5_K_M85.5 GiB50
Mistral Small 4 119B (2603)119B (6.5B)Q5_K_M83.4 GiB77
gpt-oss-120b117B (5.1B)Q6_K95.0 GiB84
Llama 4 Scout 17B-16E Instruct109B (17B)Q6_K89.8 GiB25
GLM-4.5-Air106B (12B)Q6_K87.3 GiB36
Qwen3-Coder-Next (80B-A3B)80B (3B)Q8_083.8 GiB111
Llama 3.3 70B Instruct70BQ8_075.7 GiB4.8
Qwen3.5-35B-A3B35B (3B)FP1669.1 GiB59
Qwen3.6-35B-A3B35B (3B)FP1669.1 GiB59
Qwen3-32B32.8BFP1666.6 GiB5.4
DeepSeek-R1-Distill-Qwen-32B32.76BFP1666.6 GiB5.4
Gemma 4 31B IT30.7BFP1661.6 GiB5.8
Qwen3-30B-A3B (2507)30.5B (3.3B)FP1660.9 GiB54
Qwen3-Coder-30B-A3B-Instruct30.5B (3.3B)FP1660.9 GiB54
GLM-4.7-Flash (30B-A3B)30B (3B)FP1659.6 GiB59
Qwen3.5-27B27BFP1653.8 GiB6.6
Qwen3.6-27B27BFP1653.8 GiB6.6
Qwen3.8-27B27BFP1653.8 GiB6.6
Gemma 3 27B IT27BFP1654.3 GiB6.6
Gemma 4 26B A4B IT25.2B (3.8B)FP1650.1 GiB47
Mistral Small 3.2 24B Instruct (2506)24BFP1648.7 GiB7.4
Magistral Small 1.2 (2509)24BFP1648.7 GiB7.4
Devstral Small 2 24B Instruct (2512)24BFP1648.7 GiB7.4
gpt-oss-20b21B (3.6B)FP1641.8 GiB49
Phi-4 (14B)14BFP1629.4 GiB13
Gemma 3 12B IT12BFP1624.8 GiB15
Gemma 4 12B Unified IT11.95BFP1624.2 GiB15
Qwen3.5-9B9BFP1618.4 GiB20
Qwen3-8B8.2BFP1617.7 GiB22
DeepSeek-R1-0528-Qwen3-8B8.19BFP1617.6 GiB22
Llama 3.1 8B Instruct8BFP1617.1 GiB22
Gemma 4 E4B IT8BFP1616.4 GiB22
Llama 3.2 3B Instruct3.21BFP167.7 GiB55
Kimi K2.61000B (32B)放不下––
DeepSeek-R1-0528 (671B)671B (37B)放不下––
DeepSeek-V4-Flash284B (13B)放不下––
Qwen3.8-Flash-Next180B (6B)放不下––

價格

這款硬體目前還沒有價格紀錄。 全部價格 →

常見問題

M4 Max (16-core CPU / 40-core GPU) 可以跑哪些 LLM?

以 128 GB 記憶體、8K 上下文估算,放得下的最大模型包括:Qwen3.5-122B-A10B、Mistral Small 4 119B (2603)、gpt-oss-120b、Llama 4 Scout 17B-16E Instruct、GLM-4.5-Air。完整清單見下方表格。

M4 Max (16-core CPU / 40-core GPU) 跑本地 LLM 有多快?

生成速度主要取決於記憶體頻寬(546 GB/s)。以 Llama 3.1 8B Instruct(FP16)為例,預估約每秒 22 個 token;模型越大越慢。

M4 Max (16-core CPU / 40-core GPU) 能跑 70B 等級的模型嗎?

可以。Llama 3.3 70B Instruct 在 M4 Max (16-core CPU / 40-core GPU)(128 GB)上以 Q8_0 量化、8K 上下文約需 75.7 GiB,預估生成速度約每秒 4.8 個 token。

資料來源