地端世界ONPREM WORLD

Qwen3.5-122B-A10B

Alibaba Qwen 的 Qwen3.5-122B-A10B(122B 參數,MoE 每 token 啟用 10B)。以 Q4_K_M 量化、8K 上下文估算約需 73.0 GiB 記憶體。 總參數 122B、啟用 10B 的 MoE 模型,適合 128 GB 統一記憶體的電腦或 96 GB 的工作站顯示卡。

最後更新: 2026-10-13

模型資訊

開發者Alibaba Qwen
參數量122B (10B 啟用, MoE)[src]
原生上下文長度262,144 tokens[src]
授權Apache-2.0[src]
可商用可以
KV 快取12/48 層(其餘為線性注意力,快取固定大小)[src]
發布2026-02

適合用途: 推理 · 寫程式 · AI 代理 · 中文 · 128 GB 統一記憶體電腦

執行方式

ollama run qwen3.5:122b

所需記憶體

模型權重+KV 快取+執行環境開銷,單位 GiB。量化越低越省記憶體,品質略降。

量化4K 上下文8K 上下文32K 上下文
Q4_K_M72.9 GiB73.0 GiB73.6 GiB
Q5_K_M85.4 GiB85.5 GiB86.1 GiB
Q6_K98.9 GiB99.0 GiB99.5 GiB
Q8_0127.4 GiB127.4 GiB128.0 GiB
FP16239.2 GiB239.3 GiB239.9 GiB

哪些硬體跑得動

在 8K 上下文長度下,各硬體放得下的最佳量化版本。 此為估算值,並非實測。請參考估算方法說明。

硬體記憶體最佳量化tok/s(預估)
RTX PRO 6000 Blackwell Workstation Edition96 GBQ5_K_M176
M5 Max (18-core CPU / 40-core GPU)128 GBQ5_K_M56
M4 Max (16-core CPU / 40-core GPU)128 GBQ5_K_M50
M5 Ultra512 GBFP1639
M3 Ultra512 GBFP1627
RTX Spark (N1X) laptops & compact desktops128 GBQ5_K_M25
DGX Spark128 GBQ5_K_M23
Ryzen AI Max+ 395 (Strix Halo) systems128 GBQ5_K_M22
Ryzen AI Max+ PRO 495 (Gorgon Halo) systems192 GBQ8_015
GeForce RTX 3060 (12 GB)12 GB放不下–
GeForce RTX 309024 GB放不下–
GeForce RTX 4060 Ti 16GB16 GB放不下–
GeForce RTX 4080 SUPER16 GB放不下–
GeForce RTX 409024 GB放不下–
GeForce RTX 5060 Ti 16GB16 GB放不下–
GeForce RTX 507012 GB放不下–
GeForce RTX 5070 Ti16 GB放不下–
GeForce RTX 508016 GB放不下–
GeForce RTX 509032 GB放不下–
Radeon RX 7900 XT20 GB放不下–
Radeon RX 7900 XTX24 GB放不下–
Radeon RX 9060 XT 16GB16 GB放不下–
Radeon RX 9070 XT16 GB放不下–
Arc B58012 GB放不下–
RTX A600048 GB放不下–
RTX 6000 Ada Generation48 GB放不下–
RTX PRO 5000 72GB Blackwell72 GB放不下–
Radeon AI PRO R970032 GB放不下–
Arc Pro B6024 GB放不下–
Arc Pro B7032 GB放不下–
M4 Pro64 GB放不下–
M4 Max (14-core CPU / 32-core GPU)36 GB放不下–
M532 GB放不下–
M5 Pro64 GB放不下–
M5 Max (18-core CPU / 32-core GPU)36 GB放不下–
M6 (16GB configuration, 153 GB/s)16 GB放不下–
M6 (24GB/32GB configurations, 170 GB/s)32 GB放不下–

常見問題

Qwen3.5-122B-A10B 需要多少 VRAM/記憶體?

以 8K 上下文估算:Q4_K_M 量化約需 73.0 GiB,Q8_0 約需 127.4 GiB(含模型權重、KV 快取與執行環境開銷)。上下文越長,KV 快取越大。

GeForce RTX 4090 跑得動 Qwen3.5-122B-A10B 嗎?

Qwen3.5-122B-A10B 在 GeForce RTX 4090(24 GB)上,即使用 Q4_K_M 量化、8K 上下文也放不下。

Mac 可以跑 Qwen3.5-122B-A10B 嗎?

可以。Qwen3.5-122B-A10B 在 M3 Ultra(256 GB)上以 Q8_0 量化、8K 上下文約需 127.4 GiB,預估生成速度約每秒 50 個 token。

Qwen3.5-122B-A10B 可以商用嗎?

Qwen3.5-122B-A10B 採用 Apache-2.0 授權。授權允許商業使用(請仍詳閱條款中的限制)。

資料來源