地端世界ONPREM WORLD

Qwen3.8-Flash-Next

Alibaba Qwen 的 Qwen3.8-Flash-Next(180B 參數,MoE 每 token 啟用 6B)。以 Q4_K_M 量化、8K 上下文估算約需 107.4 GiB 記憶體。 Qwen 下一代架構的實驗性預覽版:125B MoE(啟用 6B)加上 51B 的 n-gram 嵌入層,合計 180B,需要 192 GB 等級的電腦和較新版的推論引擎。和本站其他 Qwen 模型不同,它採用 Qwen Community License,而非 Apache-2.0。

最後更新: 2026-10-13

模型資訊

開發者Alibaba Qwen
參數量180B (6B 啟用, MoE)[src]
原生上下文長度262,144 tokens[src]
授權Qwen Community License 1.0 (qwen-community-1.0)[src]
可商用可以
KV 快取12/48 層(其餘為線性注意力,快取固定大小)[src]
發布2026-08

適合用途: AI 代理 · 寫程式 · 長上下文 · 中文 · 128 GB 以上電腦

執行方式

ollama run qwen3.8-flash-next:125b-a6b-q4_K_M

所需記憶體

模型權重+KV 快取+執行環境開銷,單位 GiB。量化越低越省記憶體,品質略降。

量化4K 上下文8K 上下文32K 上下文
Q4_K_M107.3 GiB107.4 GiB108.0 GiB
Q5_K_M125.8 GiB125.9 GiB126.4 GiB
Q6_K145.6 GiB145.7 GiB146.2 GiB
Q8_0187.6 GiB187.7 GiB188.3 GiB
FP16352.6 GiB352.7 GiB353.3 GiB

哪些硬體跑得動

在 8K 上下文長度下,各硬體放得下的最佳量化版本。 此為估算值,並非實測。請參考估算方法說明。

硬體記憶體最佳量化tok/s(預估)
M5 Ultra512 GBFP1665
M3 Ultra512 GBFP1644
Ryzen AI Max+ PRO 495 (Gorgon Halo) systems192 GBQ5_K_M38
GeForce RTX 3060 (12 GB)12 GB放不下–
GeForce RTX 309024 GB放不下–
GeForce RTX 4060 Ti 16GB16 GB放不下–
GeForce RTX 4080 SUPER16 GB放不下–
GeForce RTX 409024 GB放不下–
GeForce RTX 5060 Ti 16GB16 GB放不下–
GeForce RTX 507012 GB放不下–
GeForce RTX 5070 Ti16 GB放不下–
GeForce RTX 508016 GB放不下–
GeForce RTX 509032 GB放不下–
Radeon RX 7900 XT20 GB放不下–
Radeon RX 7900 XTX24 GB放不下–
Radeon RX 9060 XT 16GB16 GB放不下–
Radeon RX 9070 XT16 GB放不下–
Arc B58012 GB放不下–
RTX A600048 GB放不下–
RTX 6000 Ada Generation48 GB放不下–
RTX PRO 5000 72GB Blackwell72 GB放不下–
RTX PRO 6000 Blackwell Workstation Edition96 GB放不下–
Radeon AI PRO R970032 GB放不下–
Arc Pro B6024 GB放不下–
Arc Pro B7032 GB放不下–
M4 Pro64 GB放不下–
M4 Max (14-core CPU / 32-core GPU)36 GB放不下–
M4 Max (16-core CPU / 40-core GPU)128 GB放不下–
M532 GB放不下–
M5 Pro64 GB放不下–
M5 Max (18-core CPU / 32-core GPU)36 GB放不下–
M5 Max (18-core CPU / 40-core GPU)128 GB放不下–
M6 (16GB configuration, 153 GB/s)16 GB放不下–
M6 (24GB/32GB configurations, 170 GB/s)32 GB放不下–
DGX Spark128 GB放不下–
RTX Spark (N1X) laptops & compact desktops128 GB放不下–
Ryzen AI Max+ 395 (Strix Halo) systems128 GB放不下–

常見問題

Qwen3.8-Flash-Next 需要多少 VRAM/記憶體?

以 8K 上下文估算:Q4_K_M 量化約需 107.4 GiB,Q8_0 約需 187.7 GiB(含模型權重、KV 快取與執行環境開銷)。上下文越長,KV 快取越大。

GeForce RTX 4090 跑得動 Qwen3.8-Flash-Next 嗎?

Qwen3.8-Flash-Next 在 GeForce RTX 4090(24 GB)上,即使用 Q4_K_M 量化、8K 上下文也放不下。

Mac 可以跑 Qwen3.8-Flash-Next 嗎?

可以。Qwen3.8-Flash-Next 在 M3 Ultra(256 GB)上以 Q8_0 量化、8K 上下文約需 187.7 GiB,預估生成速度約每秒 84 個 token。

Qwen3.8-Flash-Next 可以商用嗎?

Qwen3.8-Flash-Next 採用 Qwen Community License 1.0 (qwen-community-1.0) 授權。授權允許商業使用(請仍詳閱條款中的限制)。

資料來源