地端世界ONPREM WORLD

DeepSeek-V4-Flash

DeepSeek 的 DeepSeek-V4-Flash(284B 參數,MoE 每 token 啟用 13B)。以 Q4_K_M 量化、8K 上下文估算約需 168.9 GiB 記憶體。 總參數 284B、啟用 13B 的 MoE 模型,支援 100 萬 token 上下文;4-bit 量化需要 256 GB 等級的 Mac。本站還無法估算它的壓縮稀疏注意力,所以記憶體數字不含 KV 快取。

最後更新: 2026-10-13

模型資訊

開發者DeepSeek
參數量284B (13B 啟用, MoE)[src]
原生上下文長度1,048,576 tokens[src]
授權MIT[src]
可商用可以
KV 快取特殊壓縮注意力,暫不估算[src]
發布2026-04

適合用途: 推理 · 寫程式 · AI 代理 · 超長上下文 · 中文

所需記憶體

模型權重+KV 快取+執行環境開銷,單位 GiB。量化越低越省記憶體,品質略降。

量化4K 上下文8K 上下文32K 上下文
Q4_K_M168.9 GiB168.9 GiB168.9 GiB
Q5_K_M198.0 GiB198.0 GiB198.0 GiB
Q6_K229.3 GiB229.3 GiB229.3 GiB
Q8_0295.6 GiB295.6 GiB295.6 GiB
FP16555.9 GiB555.9 GiB555.9 GiB

此模型的 KV 快取大小未知

哪些硬體跑得動

在 8K 上下文長度下,各硬體放得下的最佳量化版本。 此為估算值,並非實測。請參考估算方法說明。

硬體記憶體最佳量化tok/s(預估)
M5 Ultra512 GBQ8_056
M3 Ultra512 GBQ8_039
GeForce RTX 3060 (12 GB)12 GB放不下–
GeForce RTX 309024 GB放不下–
GeForce RTX 4060 Ti 16GB16 GB放不下–
GeForce RTX 4080 SUPER16 GB放不下–
GeForce RTX 409024 GB放不下–
GeForce RTX 5060 Ti 16GB16 GB放不下–
GeForce RTX 507012 GB放不下–
GeForce RTX 5070 Ti16 GB放不下–
GeForce RTX 508016 GB放不下–
GeForce RTX 509032 GB放不下–
Radeon RX 7900 XT20 GB放不下–
Radeon RX 7900 XTX24 GB放不下–
Radeon RX 9060 XT 16GB16 GB放不下–
Radeon RX 9070 XT16 GB放不下–
Arc B58012 GB放不下–
RTX A600048 GB放不下–
RTX 6000 Ada Generation48 GB放不下–
RTX PRO 5000 72GB Blackwell72 GB放不下–
RTX PRO 6000 Blackwell Workstation Edition96 GB放不下–
Radeon AI PRO R970032 GB放不下–
Arc Pro B6024 GB放不下–
Arc Pro B7032 GB放不下–
M4 Pro64 GB放不下–
M4 Max (14-core CPU / 32-core GPU)36 GB放不下–
M4 Max (16-core CPU / 40-core GPU)128 GB放不下–
M532 GB放不下–
M5 Pro64 GB放不下–
M5 Max (18-core CPU / 32-core GPU)36 GB放不下–
M5 Max (18-core CPU / 40-core GPU)128 GB放不下–
M6 (16GB configuration, 153 GB/s)16 GB放不下–
M6 (24GB/32GB configurations, 170 GB/s)32 GB放不下–
DGX Spark128 GB放不下–
RTX Spark (N1X) laptops & compact desktops128 GB放不下–
Ryzen AI Max+ 395 (Strix Halo) systems128 GB放不下–
Ryzen AI Max+ PRO 495 (Gorgon Halo) systems192 GB放不下–

常見問題

DeepSeek-V4-Flash 需要多少 VRAM/記憶體?

以 8K 上下文估算:Q4_K_M 量化約需 168.9 GiB,Q8_0 約需 295.6 GiB(含模型權重、KV 快取與執行環境開銷)。上下文越長,KV 快取越大。

GeForce RTX 4090 跑得動 DeepSeek-V4-Flash 嗎?

DeepSeek-V4-Flash 在 GeForce RTX 4090(24 GB)上,即使用 Q4_K_M 量化、8K 上下文也放不下。

Mac 可以跑 DeepSeek-V4-Flash 嗎?

可以。DeepSeek-V4-Flash 在 M3 Ultra(256 GB)上以 Q4_K_M 量化、8K 上下文約需 168.9 GiB,預估生成速度約每秒 68 個 token。

DeepSeek-V4-Flash 可以商用嗎?

DeepSeek-V4-Flash 採用 MIT 授權。授權允許商業使用(請仍詳閱條款中的限制)。

資料來源