模型 發布日期:
DeepSeek-V4.1-Flash:552B 多模態 MoE,KV 快取縮小到四分之一
DeepSeek 在 9 月 10 日推出 V4.1-Flash,權重以 MIT 授權公開在 Hugging Face。這是 552B 參數的混合專家(MoE)模型,原生支援圖片理解,讀取提示時每個 token 約啟用 8B 參數,生成時約 16B。新的因果編碼器-解碼器架構加上第二代壓縮稀疏注意力,讓每個 token 的 KV 快取只剩 V4-Flash 的四分之一左右,上下文最長可達一百萬 tokens。
對地端使用者的意義
長上下文變得便宜,但光是 552B 的主幹在 4 bits 下就超過 256 GB,地端執行得靠 512 GB 的 Mac Studio 或多卡伺服器;vLLM 在 9 月 22 日的 v0.30.0 加入支援。
來源
閱讀官方原文:DeepSeek-V4.1-Flash model card (Hugging Face) ↗摘要由地端世界依官方來源撰寫,附上原文連結,不轉載原文。