模型 發布日期:
微軟公開 Aion 1.0 Instruct 權重:2.3B 小模型,2027 年 1 月底前成為 Windows 內建 AI

發生什麼事
微軟 Windows Applied Sciences Group 在 11 月 18 日把 Aion 1.0 Instruct 放上 Hugging Face,採 MIT 授權。這是 23 億參數的指令微調文字模型,上下文 32,768 token,支援工具呼叫,列出包含中文、日文在內的八種語言,主要用在裝置上的摘要、改寫與對話。微軟表示,進一步最佳化的版本會搭配自家的內容審核模型,在 2027 年 1 月底前成為 Windows 作業系統內建的小型語言模型,接替 Phi Silica。這次先釋出未量化的 bfloat16 權重;約 1.3 GB 的 INT4 ONNX WebGPU 版本已經上架,微軟說之後還會有更多量化版本。
對地端使用者的意義:Windows 之後要在電腦上直接跑的模型,現在就能以 MIT 授權免費下載;在它正式內建之前,你可以先用自己的文件測試它做得到和做不到的事。
三種角度看這則新聞
市場怎麼看
微軟在正式內建之前,就先把作業系統要用的模型公開,並說這是為了提高透明度、蒐集使用者回饋。我們認為,這等於讓 Windows 團隊的寬鬆授權小模型,和 Google 的 Gemma、Meta 的小型 Llama 站上同一個擂台,也可能讓 2B 等級的模型變成 Windows 應用開發者預設「電腦上一定有」的基本配備。
白話版
微軟把不久後要內建在 Windows 裡的小型 AI 公開了,它可以在不把資料傳上網路的情況下幫你摘要、改寫文字。微軟自己也說,這麼小的模型可能漏掉細節或講錯事實,所以把它當成整理文字的小幫手就好,不要當成專家。
業內觀點
bfloat16 的 safetensors 檔案約 4.6 GB,INT4 ONNX WebGPU 版本約 1.3 GB;用 Transformers 載入時因為有自訂模型程式碼,需要 trust_remote_code=True,模型說明頁寫明是以 transformers 5.x 匯出。架構為 28 層,其中 21 層是滑動視窗注意力(視窗 2048)、7 層是完整注意力,知識截止為 2025 年 12 月。微軟公布 MMLU 55.15、IFEval 83.90,並說多語資料只占訓練資料約 6%,模型也不是為了世界知識而訓練;建議用「摘要自己的文件」這類有依據的工作來測,中文輸出品質要自己驗證。
訂閱小芽週報
每週一封:本週重點新聞與小芽洞察摘要。隨時可以取消。
來源
閱讀官方原文:microsoft/Aion-1.0-Instruct-2.3B model card (Hugging Face) ↗摘要由地端世界依官方來源撰寫,附上原文連結,不轉載原文。