地端世界ONPREM WORLD

Gemma 4 E4B IT

Google DeepMind 的 Gemma 4 E4B IT(8B 參數)。以 Q4_K_M 量化、8K 上下文估算約需 5.5 GiB 記憶體。 為筆電與行動裝置設計的小模型:有效參數 4.5B(含逐層嵌入為 8B),能處理文字、圖片與語音輸入。

最後更新: 2026-10-13

模型資訊

開發者Google DeepMind
參數量8B[src]
原生上下文長度131,072 tokens[src]
授權Apache-2.0[src]
可商用可以
KV 快取7 層全域+35 層滑動視窗(512 tokens)[src]
發布2026-03

適合用途: 裝置端/筆電 · 語音辨識與翻譯 · 圖片理解 · 多語言

執行方式

ollama run gemma4:e4b

所需記憶體

模型權重+KV 快取+執行環境開銷,單位 GiB。量化越低越省記憶體,品質略降。

量化4K 上下文8K 上下文32K 上下文
Q4_K_M5.4 GiB5.5 GiB6.2 GiB
Q5_K_M6.2 GiB6.3 GiB7.0 GiB
Q6_K7.1 GiB7.2 GiB7.9 GiB
Q8_09.0 GiB9.1 GiB9.7 GiB
FP1616.3 GiB16.4 GiB17.1 GiB

哪些硬體跑得動

在 8K 上下文長度下,各硬體放得下的最佳量化版本。 此為估算值,並非實測。請參考估算方法說明。

常見問題

Gemma 4 E4B IT 需要多少 VRAM/記憶體?

以 8K 上下文估算:Q4_K_M 量化約需 5.5 GiB,Q8_0 約需 9.1 GiB(含模型權重、KV 快取與執行環境開銷)。上下文越長,KV 快取越大。

GeForce RTX 4090 跑得動 Gemma 4 E4B IT 嗎?

可以。Gemma 4 E4B IT 在 GeForce RTX 4090(24 GB)上以 FP16 量化、8K 上下文約需 16.4 GiB,預估生成速度約每秒 44 個 token。

Mac 可以跑 Gemma 4 E4B IT 嗎?

可以。Gemma 4 E4B IT 在 M3 Ultra(96 GB)上以 FP16 量化、8K 上下文約需 16.4 GiB,預估生成速度約每秒 33 個 token。

Gemma 4 E4B IT 可以商用嗎?

Gemma 4 E4B IT 採用 Apache-2.0 授權。授權允許商業使用(請仍詳閱條款中的限制)。

資料來源