地端世界ONPREM WORLD

模型 發布日期:

Liquid AI 發表 LFM3:1.7B 代理模型、上下文 256K,約 1 GB 就放得下

示意圖:Liquid AI 發表 LFM3:1.7B 代理模型、上下文 256K,約 1 GB 就放得下
示意圖

發生什麼事

Liquid AI 在 10 月 27 日於 Hugging Face 開放 LFM3 權重:包含上下文 256K tokens 的 1.7B 文字模型,以及約 2B 參數的視覺、語音與全模態模型,還有 2B 的決策模型(d1)。LFM3 採用新的「三混合」架構,結合短卷積、滑動視窗注意力與全域注意力,預訓練用了 22T tokens。Liquid 表示,文字模型 4-bit 量化後約需 1 GB,完整 128K tokens 的 KV 快取只占 1.6 GB,Qwen3.5-4B 則要 4.3 GB。Ollama v0.40.12 當天就加入這些模型,先支援 Apple 硬體。

對地端使用者的意義:一個約 1 GB、能呼叫工具又有長上下文的模型,讓一般筆電和手機也能跑代理;但 LFM Open License 只讓年營收低於 1,000 萬美元的公司免費商用。

三種角度看這則新聞

市場怎麼看

Liquid 拿 LFM3-1.7B 與 Qwen3.5-4B、Qwen3.5-9B、Gemma 4 E4B 比較,工具呼叫分數較高(BFCL V4 為 71.39,Qwen3.5-9B 為 62.83),但也承認在知識與代理式寫程式上,大模型仍然勝出。授權是關鍵:不像採 Apache 授權的對手,規模較大的公司需要另外簽商用合約,這可能放慢企業導入的速度。

白話版

Liquid AI 推出一個很小的 AI 模型,能使用工具、讀長文件,還能在手機或筆電上離線執行。可以把它想成手腳俐落、做事有條理的助理,而不是專家:照步驟辦事很拿手,深入的專業知識就比較弱。

業內觀點

Liquid 提供 GGUF 與 MLX 版本,並列出 llama.cpp、Ollama、LM Studio、vLLM 與 SGLang;但 llama.cpp 需要支援 LFM3 的版本,Ollama v0.40.12 目前也只在 Apple 硬體上支援 lfm3 與 d1 2B,Linux 與 Windows 之後才會跟上。正式採用前,請用自己的工具定義與長上下文檢索測試:Liquid 公布的 RULER 128K 分數是 65.56,Qwen3.5-9B 則是 87.11。

小芽洞察

小芽把這則新聞和其他品牌比一比,再看真實應用的走向。會員免費閱讀。

免費登入閱讀 →

訂閱小芽週報

每週一封:本週重點新聞與小芽洞察摘要。隨時可以取消。

來源

閱讀官方原文:Liquid AI blog ↗

摘要由地端世界依官方來源撰寫,附上原文連結,不轉載原文。

本站相關頁面

更多新聞

所有新聞 →