其他 發布日期:
NVIDIA 把 AI 代理執行環境 OpenShell 捐給 CNCF,並開源可加快推論重啟的 Snapshot

發生什麼事
NVIDIA 11 月 10 日在北美 KubeCon + CloudNativeCon 宣布,把用來保護與管控自主 AI 代理的開源執行環境 OpenShell 捐給雲原生運算基金會(CNCF),成為 Sandbox 專案。OpenShell 會在代理使用工具、呼叫推論服務和執行工作時套用固定的政策規則;NVIDIA 也和 Google 合作,把它整合進 Google 主導、在 Kubernetes 上跑長時間代理工作的框架 Agent Substrate。NVIDIA 同時開源 Snapshot,能在幾秒內從檢查點還原推論副本,不必重新載入模型或暖機,並讓 NVIDIA Kubernetes Engine(NVKE)和 Kubernetes Recipes(NVKR)進入公開預覽。
對地端使用者的意義:NVIDIA 表示 OpenShell 與 Agent Substrate 的整合要能同時管控雲端和地端系統上的代理,所以在自家 Kubernetes GPU 叢集上跑代理和推論的團隊,兩邊都多了中立、開源的基礎元件可用。
三種角度看這則新聞
市場怎麼看
把 OpenShell 交給中立基金會,其他廠商比較願意採用,代理管控有機會像 Kubernetes 之於容器一樣,變成標準的一層。這也讓 Dynamo 等 NVIDIA 軟體更貼近任何人打造代理平台時的預設路線。
白話版
AI 代理是能自己動手做事的程式,例如傳檔案或執行工具。OpenShell 就像大樓的警衛櫃台,代理每做一個動作都先對照公司規定才放行,而且現在免費、由整個產業共同維護。
業內觀點
NVKE 和 NVKR 還是公開預覽,上線前先在測試叢集試過。Snapshot 針對的是冷啟動太慢:在 NVIDIA 舉的例子裡,Saturn Cloud 把 vLLM 啟動時間從 2 到 8.5 分鐘縮短到 6 到 34 秒,Crusoe 在 HGX B300 系統上把 GLM-5.3 工作就緒時間從大約 8 分鐘縮到 31 秒。這些是合作夥伴在資料中心硬體上的結果,請用自己的模型和顯示卡實測。
訂閱小芽週報
每週一封:本週重點新聞與小芽洞察摘要。隨時可以取消。
來源
閱讀官方原文:NVIDIA blog: NVIDIA Expands Open Source Commitment With OpenShell Donation and New AI Infrastructure ↗摘要由地端世界依官方來源撰寫,附上原文連結,不轉載原文。