地端世界ONPREM WORLD

DeepSeek-R1-0528 (671B)

DeepSeek 的 DeepSeek-R1-0528 (671B)(671B 參數,MoE 每 token 啟用 37B)。以 Q4_K_M 量化、8K 上下文估算約需 398.8 GiB 記憶體。 完整版 DeepSeek-R1,總參數 671B(每個 token 啟用 37B):就算用 4-bit 量化,也超過本站任何一台機器的記憶體。

最後更新: 2026-10-13

模型資訊

開發者DeepSeek
參數量671B (37B 啟用, MoE)[src]
原生上下文長度131,072 tokens[src]
授權MIT[src]
可商用可以
KV 快取壓縮式 KV(MLA),61 層[src]
發布2025-05

適合用途: 推理 · 數學 · 寫程式 · 中文

執行方式

ollama run deepseek-r1:671b

所需記憶體

模型權重+KV 快取+執行環境開銷,單位 GiB。量化越低越省記憶體,品質略降。

量化4K 上下文8K 上下文32K 上下文
Q4_K_M398.6 GiB398.8 GiB400.4 GiB
Q5_K_M467.5 GiB467.7 GiB469.3 GiB
Q6_K541.3 GiB541.6 GiB543.2 GiB
Q8_0697.9 GiB698.2 GiB699.8 GiB
FP161313.1 GiB1313.4 GiB1315.0 GiB

哪些硬體跑得動

在 8K 上下文長度下,各硬體放得下的最佳量化版本。 此為估算值,並非實測。請參考估算方法說明。

硬體記憶體最佳量化tok/s(預估)
GeForce RTX 3060 (12 GB)12 GB放不下–
GeForce RTX 309024 GB放不下–
GeForce RTX 4060 Ti 16GB16 GB放不下–
GeForce RTX 4080 SUPER16 GB放不下–
GeForce RTX 409024 GB放不下–
GeForce RTX 5060 Ti 16GB16 GB放不下–
GeForce RTX 507012 GB放不下–
GeForce RTX 5070 Ti16 GB放不下–
GeForce RTX 508016 GB放不下–
GeForce RTX 509032 GB放不下–
Radeon RX 7900 XT20 GB放不下–
Radeon RX 7900 XTX24 GB放不下–
Radeon RX 9060 XT 16GB16 GB放不下–
Radeon RX 9070 XT16 GB放不下–
Arc B58012 GB放不下–
RTX A600048 GB放不下–
RTX 6000 Ada Generation48 GB放不下–
RTX PRO 5000 72GB Blackwell72 GB放不下–
RTX PRO 6000 Blackwell Workstation Edition96 GB放不下–
Radeon AI PRO R970032 GB放不下–
Arc Pro B6024 GB放不下–
Arc Pro B7032 GB放不下–
M4 Pro64 GB放不下–
M4 Max (14-core CPU / 32-core GPU)36 GB放不下–
M4 Max (16-core CPU / 40-core GPU)128 GB放不下–
M3 Ultra512 GB放不下–
M532 GB放不下–
M5 Pro64 GB放不下–
M5 Max (18-core CPU / 32-core GPU)36 GB放不下–
M5 Max (18-core CPU / 40-core GPU)128 GB放不下–
M5 Ultra512 GB放不下–
M6 (16GB configuration, 153 GB/s)16 GB放不下–
M6 (24GB/32GB configurations, 170 GB/s)32 GB放不下–
DGX Spark128 GB放不下–
RTX Spark (N1X) laptops & compact desktops128 GB放不下–
Ryzen AI Max+ 395 (Strix Halo) systems128 GB放不下–
Ryzen AI Max+ PRO 495 (Gorgon Halo) systems192 GB放不下–

常見問題

DeepSeek-R1-0528 (671B) 需要多少 VRAM/記憶體?

以 8K 上下文估算:Q4_K_M 量化約需 398.8 GiB,Q8_0 約需 698.2 GiB(含模型權重、KV 快取與執行環境開銷)。上下文越長,KV 快取越大。

GeForce RTX 4090 跑得動 DeepSeek-R1-0528 (671B) 嗎?

DeepSeek-R1-0528 (671B) 在 GeForce RTX 4090(24 GB)上,即使用 Q4_K_M 量化、8K 上下文也放不下。

Mac 可以跑 DeepSeek-R1-0528 (671B) 嗎?

DeepSeek-R1-0528 (671B) 在 M3 Ultra(512 GB)上,即使用 Q4_K_M 量化、8K 上下文也放不下。

DeepSeek-R1-0528 (671B) 可以商用嗎?

DeepSeek-R1-0528 (671B) 採用 MIT 授權。授權允許商業使用(請仍詳閱條款中的限制)。

資料來源