地端世界ONPREM WORLD

模型 發布日期:

NVIDIA 開放 Nemotron 3.5 Transcribe:活躍參數 4.3B,一個模型處理 40 種語言轉錄、講者標記與翻譯

示意圖:NVIDIA 開放 Nemotron 3.5 Transcribe:活躍參數 4.3B,一個模型處理 40 種語言轉錄、講者標記與翻譯
示意圖

發生什麼事

NVIDIA 在 10 月 28 日釋出 Nemotron 3.5 Transcribe,這是可用提示詞操作的開放權重語音模型,授權為 OpenMDW-1.1。同一個模型就能轉錄 40 種語言、其中 31 種可與英文互譯、13 種可標記講者,最多標記八位講者,也能回答音訊內容的問題,單段錄音最長一小時。活躍參數約 43 億,Hugging Face 上有 BF16、FP8 與 NVFP4 版本。它是離線模型,不是即時串流服務。

對地端使用者的意義:會議轉錄、講者標記和翻譯現在可以用同一個模型留在自己的機器上完成,不必串好幾個模型;NVFP4 權重 21.6 GB,工作站顯示卡也值得評估。

三種角度看這則新聞

市場怎麼看

NVIDIA 表示,它在 Artificial Analysis 的開放權重模型中排第二,活躍參數比第一名少 80%;在 Hugging Face Open ASR 排行榜的英文項目,則是開放權重模型第一。把轉錄、講者分離和翻譯包在一起,可能壓縮專門語音流程的空間,也多給買家一個選 NVIDIA 硬體的理由,因為這個模型就是為 NVIDIA 顯示卡設計的。

白話版

錄下一場會議,再告訴這個 AI 你要什麼:標好誰說了什麼的逐字稿、翻譯,或決議清單。它可以在自己的電腦上跑,就像一位不會把錄音帶出公司的秘書;不過它處理的是錄好的檔案,不是現場即時語音。

業內觀點

權重大小為 BF16 67.5 GB、FP8 34.7 GB、NVFP4 21.6 GB;模型卡列出 RTX 5090 可跑 NVFP4,執行環境是 Linux 或 WSL2 上的 vLLM 0.32.0 加 NeMo Speech main 分支,支援的顯示卡也能透過 GGML 在 Windows 原生執行。NVIDIA 公布的 2,238 倍即時速度來自它的 NIM,開源 vLLM 整合預期慢約兩倍。輸入是 16 kHz 單聲道;中文普通話標示為 Supported,代表可能需要微調。

小芽洞察

小芽把這則新聞和其他品牌比一比,再看真實應用的走向。會員免費閱讀。

免費登入閱讀 →

訂閱小芽週報

每週一封:本週重點新聞與小芽洞察摘要。隨時可以取消。

來源

閱讀官方原文:NVIDIA Nemotron 3.5 Transcribe model card (Hugging Face) ↗

摘要由地端世界依官方來源撰寫,附上原文連結,不轉載原文。

本站相關頁面

更多新聞

所有新聞 →