地端世界ONPREM WORLD

Qwen3.8-27B

Alibaba Qwen 的 Qwen3.8-27B(27B 參數)。以 Q4_K_M 量化、8K 上下文估算約需 17.0 GiB 記憶體。 Qwen 在 2026 年 8 月推出的 27B 密集模型,能看圖片與影片、支援 256K 上下文;層數配置和 Qwen3.5/3.6-27B 相同,5-bit 量化放得進 20–24 GB 顯示卡。

最後更新: 2026-10-13

模型資訊

開發者Alibaba Qwen
參數量27B[src]
原生上下文長度262,144 tokens[src]
授權Apache-2.0[src]
可商用可以
KV 快取16/64 層(其餘為線性注意力,快取固定大小)[src]
發布2026-08

適合用途: 寫程式 · AI 代理 · 推理 · 對話 · 中文 · 圖片理解

執行方式

ollama run qwen3.8:27b

所需記憶體

模型權重+KV 快取+執行環境開銷,單位 GiB。量化越低越省記憶體,品質略降。

量化4K 上下文8K 上下文32K 上下文
Q4_K_M16.8 GiB17.0 GiB18.5 GiB
Q5_K_M19.5 GiB19.8 GiB21.3 GiB
Q6_K22.5 GiB22.7 GiB24.2 GiB
Q8_028.8 GiB29.1 GiB30.6 GiB
FP1653.6 GiB53.8 GiB55.3 GiB

哪些硬體跑得動

在 8K 上下文長度下,各硬體放得下的最佳量化版本。 此為估算值,並非實測。請參考估算方法說明。

硬體記憶體最佳量化tok/s(預估)
GeForce RTX 509032 GBQ8_044
GeForce RTX 409024 GBQ6_K32
Radeon RX 7900 XTX24 GBQ6_K30
GeForce RTX 309024 GBQ6_K29
Radeon RX 7900 XT20 GBQ5_K_M29
RTX 6000 Ada Generation48 GBQ8_023
RTX PRO 6000 Blackwell Workstation Edition96 GBFP1623
RTX A600048 GBQ8_019
RTX PRO 5000 72GB Blackwell72 GBFP1617
Radeon AI PRO R970032 GBQ8_016
Arc Pro B7032 GBQ8_015
M5 Ultra512 GBFP1614
Arc Pro B6024 GBQ6_K14
M5 Max (18-core CPU / 32-core GPU)36 GBQ6_K13
M4 Max (14-core CPU / 32-core GPU)36 GBQ6_K12
M3 Ultra512 GBFP169.9
M5 Max (18-core CPU / 40-core GPU)128 GBFP167.4
M5 Pro64 GBQ8_07.0
M4 Max (16-core CPU / 40-core GPU)128 GBFP166.6
M4 Pro64 GBQ8_06.2
M6 (24GB/32GB configurations, 170 GB/s)32 GBQ6_K5.0
M532 GBQ6_K4.5
RTX Spark (N1X) laptops & compact desktops128 GBFP163.3
DGX Spark128 GBFP163.0
Ryzen AI Max+ PRO 495 (Gorgon Halo) systems192 GBFP163.0
Ryzen AI Max+ 395 (Strix Halo) systems128 GBFP162.8
GeForce RTX 3060 (12 GB)12 GB放不下–
GeForce RTX 4060 Ti 16GB16 GB放不下–
GeForce RTX 4080 SUPER16 GB放不下–
GeForce RTX 5060 Ti 16GB16 GB放不下–
GeForce RTX 507012 GB放不下–
GeForce RTX 5070 Ti16 GB放不下–
GeForce RTX 508016 GB放不下–
Radeon RX 9060 XT 16GB16 GB放不下–
Radeon RX 9070 XT16 GB放不下–
Arc B58012 GB放不下–
M6 (16GB configuration, 153 GB/s)16 GB放不下–

常見問題

Qwen3.8-27B 需要多少 VRAM/記憶體?

以 8K 上下文估算:Q4_K_M 量化約需 17.0 GiB,Q8_0 約需 29.1 GiB(含模型權重、KV 快取與執行環境開銷)。上下文越長,KV 快取越大。

GeForce RTX 4090 跑得動 Qwen3.8-27B 嗎?

可以。Qwen3.8-27B 在 GeForce RTX 4090(24 GB)上以 Q6_K 量化、8K 上下文約需 22.7 GiB,預估生成速度約每秒 32 個 token。

Mac 可以跑 Qwen3.8-27B 嗎?

可以。Qwen3.8-27B 在 M3 Ultra(96 GB)上以 FP16 量化、8K 上下文約需 53.8 GiB,預估生成速度約每秒 9.9 個 token。

Qwen3.8-27B 可以商用嗎?

Qwen3.8-27B 採用 Apache-2.0 授權。授權允許商業使用(請仍詳閱條款中的限制)。

資料來源