地端世界ONPREM WORLD

執行環境與工具 發布日期:

vLLM v0.29 預設改用 Model Runner V2,V1 進入淘汰期

vLLM v0.29.0 讓所有模型預設改用 Model Runner V2,完成從 pooling 模型開始的逐步切換。專案已將 V1 視為棄用,預計在 v0.32 移除。這一版也把 `python -m vllm.entrypoints.openai.api_server` 的啟動方式標為棄用、改推 `vllm serve`,移除十種已棄用的模型架構,並新增 Qwen3.8-Flash-Next(BF16、FP8 與 NVFP4 權重)。

對地端使用者的意義

如果你家裡的伺服器還用舊的 api_server 模組啟動 vLLM,或依賴只有 V1 才有的功能,請在 v0.32 移除舊版之前改用 `vllm serve` 並在 V2 上測試。

來源

閱讀官方原文:vLLM v0.29.0 release notes (GitHub) ↗

摘要由地端世界依官方來源撰寫,附上原文連結,不轉載原文。

本站相關頁面

更多新聞

所有新聞 →