執行環境與工具 發布日期:
Ollama v0.40.16 讓 Qwen3.8 Flash Next 在 Apple 晶片上少用約 27 GiB 記憶體

發生什麼事
Ollama 在 11 月 9 日推出 v0.40.16,表示 Qwen3.8 Flash Next 在 Apple 晶片上現在約少用 27 GiB 記憶體。這一版也加入 Ricursive 的程式碼模型 Ripple Preview,讓 `ollama launch claude` 一定會把 Claude Code 導向你選的模型,並在雲端模型下架時由 `ollama launch` 說明原因。相容 OpenAI 的 `/v1/responses` 端點現在會遵守 `truncation` 設定,預設不再默默截斷內容;沒有安裝任何模型時,`/v1/models` 會回傳空清單而不是 `null`;Windows on ARM 則新增 CUDA 13.5 支援。
對地端使用者的意義:Qwen3.8 Flash Next 是單台 Mac 上能跑的最大型模型之一,省下約 27 GiB,同一台機器就多出空間給更長的上下文或第二個模型。
三種角度看這則新聞
市場怎麼看
這類軟體上的改進,不換硬體就能讓同一台 Mac 做更多事,也讓大記憶體的 Apple 機器在跑大型 MoE 模型時更划算。其他本機執行環境也得跟上 Ollama 在 Apple 晶片上的記憶體表現。
白話版
Ollama 是讓你在自己電腦上跑 AI 模型的免費軟體。這次更新讓它支援的大型模型之一在 Mac 上明顯少佔記憶體,就像重新整理行李箱,同樣的衣服卻空出更多位置。
業內觀點
Qwen3.8 Flash Next 共存放 180B 參數(125B MoE、每個 token 啟用 6B,再加上 n-gram 嵌入),所以仍然需要大記憶體的 Mac;升級後請重新確認能放多長的上下文,以及是否能同時載入嵌入模型或程式碼模型。如果你的應用程式有呼叫 `/v1/responses`,請明確設定 `truncation`,因為預設已不再默默截斷長輸入;原本把 `/v1/models` 回傳 `null` 當特例處理的程式也要一併更新。
訂閱小芽週報
每週一封:本週重點新聞與小芽洞察摘要。隨時可以取消。
來源
閱讀官方原文:Ollama v0.40.16 release notes (GitHub) ↗摘要由地端世界依官方來源撰寫,附上原文連結,不轉載原文。