執行環境與工具 發布日期:
vLLM v0.29 預設改用 Model Runner V2,V1 進入淘汰期
vLLM v0.29.0 讓所有模型預設改用 Model Runner V2,完成從 pooling 模型開始的逐步切換。專案已將 V1 視為棄用,預計在 v0.32 移除。這一版也把 `python -m vllm.entrypoints.openai.api_server` 的啟動方式標為棄用、改推 `vllm serve`,移除十種已棄用的模型架構,並新增 Qwen3.8-Flash-Next(BF16、FP8 與 NVFP4 權重)。
對地端使用者的意義
如果你家裡的伺服器還用舊的 api_server 模組啟動 vLLM,或依賴只有 V1 才有的功能,請在 v0.32 移除舊版之前改用 `vllm serve` 並在 V2 上測試。
來源
閱讀官方原文:vLLM v0.29.0 release notes (GitHub) ↗摘要由地端世界依官方來源撰寫,附上原文連結,不轉載原文。