地端世界ONPREM WORLD

GeForce RTX 3060 (12 GB)

NVIDIA GeForce RTX 3060 (12 GB):12 GB 記憶體、360 GB/s 頻寬。以 12 GB、8K 上下文估算,下表列出它能跑的開源模型。 首發價 329 美元就有 12 GB VRAM,可用 5–8-bit 量化跑 8B–14B 模型;不過 360 GB/s 的記憶體頻寬會讓生成速度比較普通。

最後更新: 2026-10-14

規格

記憶體12 GB GDDR6[src]
記憶體頻寬360 GB/s[src]
功耗170 W[src]
上市2021-02[src]
首發建議售價US$329[src]
架構Ampere[src]
軟體支援CUDA

能跑哪些模型

在 8K 上下文長度下,放得下的最高品質量化版本與預估生成速度。 此為估算值,並非實測。請參考估算方法說明。

模型參數量最佳量化所需記憶體tok/s(預估)
Phi-4 (14B)14BQ5_K_M11.8 GiB25
Gemma 3 12B IT12BQ6_K11.0 GiB25
Gemma 4 12B Unified IT11.95BQ6_K10.5 GiB26
Qwen3.5-9B9BQ8_010.1 GiB26
Qwen3-8B8.2BQ8_010.1 GiB29
DeepSeek-R1-0528-Qwen3-8B8.19BQ8_010.1 GiB29
Llama 3.1 8B Instruct8BQ8_09.8 GiB30
Gemma 4 E4B IT8BQ8_09.1 GiB30
Llama 3.2 3B Instruct3.21BFP167.7 GiB39
Kimi K2.61000B (32B)放不下––
DeepSeek-R1-0528 (671B)671B (37B)放不下––
DeepSeek-V4-Flash284B (13B)放不下––
Qwen3.8-Flash-Next180B (6B)放不下––
Qwen3.5-122B-A10B122B (10B)放不下––
Mistral Small 4 119B (2603)119B (6.5B)放不下––
gpt-oss-120b117B (5.1B)放不下––
Llama 4 Scout 17B-16E Instruct109B (17B)放不下––
GLM-4.5-Air106B (12B)放不下––
Qwen3-Coder-Next (80B-A3B)80B (3B)放不下––
Llama 3.3 70B Instruct70B放不下––
Qwen3.5-35B-A3B35B (3B)放不下––
Qwen3.6-35B-A3B35B (3B)放不下––
Qwen3-32B32.8B放不下––
DeepSeek-R1-Distill-Qwen-32B32.76B放不下––
Gemma 4 31B IT30.7B放不下––
Qwen3-30B-A3B (2507)30.5B (3.3B)放不下––
Qwen3-Coder-30B-A3B-Instruct30.5B (3.3B)放不下––
GLM-4.7-Flash (30B-A3B)30B (3B)放不下––
Qwen3.5-27B27B放不下––
Qwen3.6-27B27B放不下––
Qwen3.8-27B27B放不下––
Gemma 3 27B IT27B放不下––
Gemma 4 26B A4B IT25.2B (3.8B)放不下––
Mistral Small 3.2 24B Instruct (2506)24B放不下––
Magistral Small 1.2 (2509)24B放不下––
Devstral Small 2 24B Instruct (2512)24B放不下––
gpt-oss-20b21B (3.6B)放不下––

價格

各商店的最新售價,以查價當天頁面標示的價格為準。

地區商店商品售價每 GB查價日
台灣momo購物網【MSI 微星】GeForce RTX 3060 VENTUS 2X 12G OC 顯示卡NT$15,590NT$1,299/GB2026-10-14
台灣原價屋 CoolPC{微星 RTX3060 VENTUS 2X 12G OC}1807MHz/23.5cm/雙風扇/註四年Line on the shop's public price list (no per-product page); list stamped 2026/10/14 15:47NT$15,590NT$1,299/GB2026-10-14
美國NeweggGIGABYTE WINDFORCE OC GeForce RTX 3060 12GB GDDR6 PCI Express 4.0 x16 ATX Graphics Card GV-N3060WF2OC-12GD REV2.0US$459.99US$38/GB2026-10-14
  • 台灣性價比:跑 Llama 3.1 8B Instruct (Q4_K_M, 8K) 預估約每秒 52.0 個 token,換算為 3.3 tok/s/每 NT$1,000。
  • 美國性價比:跑 Llama 3.1 8B Instruct (Q4_K_M, 8K) 預估約每秒 52.0 個 token,換算為 11.3 tok/s/每 US$100。

同一款硬體查過兩天以上的價格後,這裡會出現價格走勢圖。

全部價格 →

常見問題

GeForce RTX 3060 (12 GB) 可以跑哪些 LLM?

以 12 GB 記憶體、8K 上下文估算,放得下的最大模型包括:Phi-4 (14B)、Gemma 3 12B IT、Gemma 4 12B Unified IT、Qwen3.5-9B、Qwen3-8B。完整清單見下方表格。

GeForce RTX 3060 (12 GB) 跑本地 LLM 有多快?

生成速度主要取決於記憶體頻寬(360 GB/s)。以 Llama 3.1 8B Instruct(Q8_0)為例,預估約每秒 30 個 token;模型越大越慢。

GeForce RTX 3060 (12 GB) 能跑 70B 等級的模型嗎?

Llama 3.3 70B Instruct 在 GeForce RTX 3060 (12 GB)(12 GB)上,即使用 Q4_K_M 量化、8K 上下文也放不下。

資料來源