RTX PRO 5000 48GB Blackwell
NVIDIA RTX PRO 5000 48GB Blackwell:48 GB 記憶體、1344 GB/s 頻寬。以 48 GB、8K 上下文估算,下表列出它能跑的開源模型。 48 GB、1,344 GB/s:單卡就能用 4-bit 量化跑 70B 密集模型。
最後更新: 2026-10-16
規格
能跑哪些模型
在 8K 上下文長度下,放得下的最高品質量化版本與預估生成速度。 此為估算值,並非實測。請參考估算方法說明。
| 模型 | 參數量 | 最佳量化 | 所需記憶體 | tok/s(預估) |
|---|---|---|---|---|
| Llama 3.3 70B Instruct | 70B | Q4_K_M | 44.5 GiB | 21 |
| Qwen3.5-35B-A3B | 35B (3B) | Q8_0 | 37.0 GiB | 186 |
| Qwen3.6-35B-A3B | 35B (3B) | Q8_0 | 37.0 GiB | 186 |
| Qwen3-32B | 32.8B | Q8_0 | 36.6 GiB | 26 |
| DeepSeek-R1-Distill-Qwen-32B | 32.76B | Q8_0 | 36.5 GiB | 26 |
| Gemma 4 31B IT | 30.7B | Q8_0 | 33.5 GiB | 27 |
| Qwen3-30B-A3B (2507) | 30.5B (3.3B) | Q8_0 | 32.9 GiB | 175 |
| Qwen3-Coder-30B-A3B-Instruct | 30.5B (3.3B) | Q8_0 | 32.9 GiB | 175 |
| GLM-4.7-Flash (30B-A3B) | 30B (3B) | Q8_0 | 32.1 GiB | 186 |
| Qwen3.5-27B | 27B | Q8_0 | 29.1 GiB | 31 |
| Qwen3.6-27B | 27B | Q8_0 | 29.1 GiB | 31 |
| Qwen3.8-27B | 27B | Q8_0 | 29.1 GiB | 31 |
| Gemma 3 27B IT | 27B | Q8_0 | 29.6 GiB | 31 |
| Gemma 4 26B A4B IT | 25.2B (3.8B) | Q8_0 | 27.0 GiB | 159 |
| Mistral Small 3.2 24B Instruct (2506) | 24B | Q8_0 | 26.7 GiB | 34 |
| Magistral Small 1.2 (2509) | 24B | Q8_0 | 26.7 GiB | 34 |
| Devstral Small 2 24B Instruct (2512) | 24B | Q8_0 | 26.7 GiB | 34 |
| gpt-oss-20b | 21B (3.6B) | FP16 | 41.8 GiB | 104 |
| Phi-4 (14B) | 14B | FP16 | 29.4 GiB | 31 |
| Gemma 3 12B IT | 12B | FP16 | 24.8 GiB | 36 |
| Gemma 4 12B Unified IT | 11.95B | FP16 | 24.2 GiB | 36 |
| Qwen3.5-9B | 9B | FP16 | 18.4 GiB | 47 |
| Qwen3-8B | 8.2B | FP16 | 17.7 GiB | 51 |
| DeepSeek-R1-0528-Qwen3-8B | 8.19B | FP16 | 17.6 GiB | 52 |
| Llama 3.1 8B Instruct | 8B | FP16 | 17.1 GiB | 53 |
| Gemma 4 E4B IT | 8B | FP16 | 16.4 GiB | 53 |
| Llama 3.2 3B Instruct | 3.21B | FP16 | 7.7 GiB | 113 |
| Kimi K2.6 | 1000B (32B) | 放不下 | – | – |
| DeepSeek-R1-0528 (671B) | 671B (37B) | 放不下 | – | – |
| DeepSeek-V4-Flash | 284B (13B) | 放不下 | – | – |
| Qwen3.8-Flash-Next | 180B (6B) | 放不下 | – | – |
| Qwen3.5-122B-A10B | 122B (10B) | 放不下 | – | – |
| Mistral Small 4 119B (2603) | 119B (6.5B) | 放不下 | – | – |
| gpt-oss-120b | 117B (5.1B) | 放不下 | – | – |
| Llama 4 Scout 17B-16E Instruct | 109B (17B) | 放不下 | – | – |
| GLM-4.5-Air | 106B (12B) | 放不下 | – | – |
| Qwen3-Coder-Next (80B-A3B) | 80B (3B) | 放不下 | – | – |
價格
各商店的最新售價,以查價當天頁面標示的價格為準。
| 地區 | 商店 | 商品 | 售價 | 每 GB | 查價日 |
|---|---|---|---|---|---|
| 台灣 | 原價屋 CoolPC | Leadtek RTX PRO 5000 Blackwell 48GBLine on the shop's public price list (no per-product page); list stamped 2026/10/15 9:31 | NT$325,000 | NT$6,771/GB | 2026-10-15 |
- 台灣性價比:跑 Llama 3.1 8B Instruct (Q4_K_M, 8K) 預估約每秒 139.8 個 token,換算為 0.4 tok/s/每 NT$1,000。
同一款硬體查過兩天以上的價格後,這裡會出現價格走勢圖。
全部價格 →常見問題
RTX PRO 5000 48GB Blackwell 可以跑哪些 LLM?
以 48 GB 記憶體、8K 上下文估算,放得下的最大模型包括:Llama 3.3 70B Instruct、Qwen3.5-35B-A3B、Qwen3.6-35B-A3B、Qwen3-32B、DeepSeek-R1-Distill-Qwen-32B。完整清單見下方表格。
RTX PRO 5000 48GB Blackwell 跑本地 LLM 有多快?
生成速度主要取決於記憶體頻寬(1344 GB/s)。以 Llama 3.1 8B Instruct(FP16)為例,預估約每秒 53 個 token;模型越大越慢。
RTX PRO 5000 48GB Blackwell 能跑 70B 等級的模型嗎?
可以。Llama 3.3 70B Instruct 在 RTX PRO 5000 48GB Blackwell(48 GB)上以 Q4_K_M 量化、8K 上下文約需 44.5 GiB,預估生成速度約每秒 21 個 token。