# DGX Station (GB300)

> 地端世界 · https://onpremworld.com/zh-tw/hardware/nvidia-dgx-station-gb300 · 最後更新: 2026-10-16 · CC BY 4.0

單顆 GPU 就有 252 GB HBM3e、7.1 TB/s，另有 496 GB CPU 記憶體：280B 級 MoE 模型用 4-bit 量化可完整放進高速記憶體。採專案報價，需要 20 A 迴路供電。

> 本站有販售: 專案報價 · 交期較長 · https://onpremworld.com/zh-tw/quote · 本頁規格、可跑模型估算與店面價格皆獨立於銷售編製。

## 規格

|  |  |
|---|---|
| 記憶體 | 252 GB HBM3e (GPU), plus 496 GB LPDDR5X on the Grace CPU (748 GB coherent) |
| 記憶體頻寬 | 7100 GB/s |
| 功耗 | 1600 W |
| 架構 | Grace Blackwell Ultra (GB300: Blackwell Ultra GPU + 72-core Grace Neoverse V2 CPU, NVLink-C2C 900 GB/s) |
| 軟體支援 | CUDA |

## 能跑哪些模型 (252 GB, 8K)

此為估算值，並非實測。請參考估算方法說明。

| 模型 | 參數量 | 最佳量化 | 合計 | tok/s（預估） |
|---|---|---|---|---|
| DeepSeek-V4-Flash | 284B | Q6_K | 229.3 GiB | 241 |
| Qwen3.8-Flash-Next | 180B | Q8_0 | 187.7 GiB | 305 |
| Qwen3.5-122B-A10B | 122B | FP16 | 239.3 GiB | 166 |
| Mistral Small 4 119B (2603) | 119B | FP16 | 233.4 GiB | 217 |
| gpt-oss-120b | 117B | FP16 | 229.6 GiB | 247 |
| Llama 4 Scout 17B-16E Instruct | 109B | FP16 | 215.2 GiB | 113 |
| GLM-4.5-Air | 106B | FP16 | 209.2 GiB | 146 |
| Qwen3-Coder-Next (80B-A3B) | 80B | FP16 | 157.1 GiB | 312 |
| Llama 3.3 70B Instruct | 70B | FP16 | 139.9 GiB | 33 |
| Qwen3.5-35B-A3B | 35B | FP16 | 69.1 GiB | 312 |
| Qwen3.6-35B-A3B | 35B | FP16 | 69.1 GiB | 312 |
| Qwen3-32B | 32.8B | FP16 | 66.6 GiB | 66 |
| DeepSeek-R1-Distill-Qwen-32B | 32.76B | FP16 | 66.6 GiB | 66 |
| Gemma 4 31B IT | 30.7B | FP16 | 61.6 GiB | 70 |
| Qwen3-30B-A3B (2507) | 30.5B | FP16 | 60.9 GiB | 300 |
| Qwen3-Coder-30B-A3B-Instruct | 30.5B | FP16 | 60.9 GiB | 300 |
| GLM-4.7-Flash (30B-A3B) | 30B | FP16 | 59.6 GiB | 312 |
| Qwen3.5-27B | 27B | FP16 | 53.8 GiB | 78 |
| Qwen3.6-27B | 27B | FP16 | 53.8 GiB | 78 |
| Qwen3.8-27B | 27B | FP16 | 53.8 GiB | 78 |
| Gemma 3 27B IT | 27B | FP16 | 54.3 GiB | 78 |
| Gemma 4 26B A4B IT | 25.2B | FP16 | 50.1 GiB | 283 |
| Mistral Small 3.2 24B Instruct (2506) | 24B | FP16 | 48.7 GiB | 86 |
| Magistral Small 1.2 (2509) | 24B | FP16 | 48.7 GiB | 86 |
| Devstral Small 2 24B Instruct (2512) | 24B | FP16 | 48.7 GiB | 86 |
| gpt-oss-20b | 21B | FP16 | 41.8 GiB | 290 |
| Phi-4 (14B) | 14B | FP16 | 29.4 GiB | 131 |
| Gemma 3 12B IT | 12B | FP16 | 24.8 GiB | 146 |
| Gemma 4 12B Unified IT | 11.95B | FP16 | 24.2 GiB | 147 |
| Qwen3.5-9B | 9B | FP16 | 18.4 GiB | 178 |
| Qwen3-8B | 8.2B | FP16 | 17.7 GiB | 189 |
| DeepSeek-R1-0528-Qwen3-8B | 8.19B | FP16 | 17.6 GiB | 189 |
| Llama 3.1 8B Instruct | 8B | FP16 | 17.1 GiB | 192 |
| Gemma 4 E4B IT | 8B | FP16 | 16.4 GiB | 192 |
| Llama 3.2 3B Instruct | 3.21B | FP16 | 7.7 GiB | 304 |
| Kimi K2.6 | 1000B | 放不下 | – | – |
| DeepSeek-R1-0528 (671B) | 671B | 放不下 | – | – |

## 價格

這款硬體目前還沒有價格紀錄。

## 常見問題

### DGX Station (GB300) 可以跑哪些 LLM？

以 252 GB 記憶體、8K 上下文估算，放得下的最大模型包括：DeepSeek-V4-Flash、Qwen3.8-Flash-Next、Qwen3.5-122B-A10B、Mistral Small 4 119B (2603)、gpt-oss-120b。完整清單見下方表格。

### DGX Station (GB300) 跑本地 LLM 有多快？

生成速度主要取決於記憶體頻寬（7100 GB/s）。以 Llama 3.1 8B Instruct（FP16）為例，預估約每秒 192 個 token；模型越大越慢。

### DGX Station (GB300) 能跑 70B 等級的模型嗎？

可以。Llama 3.3 70B Instruct 在 DGX Station (GB300)（252 GB）上以 FP16 量化、8K 上下文約需 139.9 GiB，預估生成速度約每秒 33 個 token。

## 資料來源

- https://www.nvidia.com/en-us/products/workstations/dgx-station/