模型 發布日期:
Ricursive 推出 Ripple-65B Preview:65B 密集程式碼模型、Apache 2.0 授權,DGX Spark 放得下,Ollama 已可直接跑

發生什麼事
Ricursive Intelligence 在 11 月 4 日推出 Ripple-65B Preview,這是一個從頭預訓練的 65B 密集 Transformer 模型,訓練資料 12 兆個 token,上下文最長 1,048,576 個 token,以 Apache 2.0 授權放上 Hugging Face。它是 Ricursive 晶片設計 AI 平台背後那個模型的通用版本,這次釋出 BF16 與 NVFP4 兩種指令微調版,另有 BF16 基礎模型。Ricursive 公布 Terminal-Bench 2.1 得分 80.52,在它自己的比較表中勝過多個參數大得多的開放模型,並表示整個研發只花了 3,200 萬美元。Ollama v0.40.16 在 11 月 9 日加入支援,指令是 `ollama run ripple-preview`,Q4_K_M 版 39 GB,給 MLX 引擎用的 NVFP4 版 46 GB。
對地端使用者的意義:65B 規模、擅長代理式寫程式的模型,一台桌上型 AI 主機的記憶體就放得下,加上寬鬆的 Apache 2.0 授權允許商業使用,企業可以拿自家程式碼直接用。
三種角度看這則新聞
市場怎麼看
Ricursive 只拿美國的開放權重模型來比,並宣稱在 Terminal-Bench 2.1 上勝過總參數高達 975B 的模型;不過表中不少分數來自各家自行公布或 Ricursive 自家測試,是否站得住腳還要看第三方結果。如果成立,這代表小團隊用密集模型,也可能和現在主導開放權重市場的大型 MoE 模型一較高下。
白話版
Ripple 是給工程師用的 AI 助手,能自己在終端機裡完成好幾個步驟的工作。它小到一台辦公室的桌上型 AI 電腦就跑得動,處理的程式碼不必送到外部服務。
業內觀點
和 MoE 程式碼模型不同,它每個 token 都會用到全部 65B 參數,所以在 DGX Spark(本站資料為 273 GB/s)這類受記憶體頻寬限制的機器上,生成速度很可能不如同等大小的 MoE 模型;在 Ollama 的 MLX 引擎上,Ripple 會用 DFlash 2 推測解碼來加快生成。39 GB 的 Q4_K_M 或 46 GB 的 NVFP4 版本,在 64 GB 或 128 GB 的機器上還留得下長上下文的空間,BF16 權重則需要約 130 GB。請先用自家的程式庫和工作流程實測,再相信它自行公布的分數。
訂閱小芽週報
每週一封:本週重點新聞與小芽洞察摘要。隨時可以取消。
來源
閱讀官方原文:Introducing Ripple-65B Preview (Ricursive Intelligence) ↗摘要由地端世界依官方來源撰寫,附上原文連結,不轉載原文。