NVIDIA 正式開源 Nemotron 3 語者分離模型,該模型擁有 1 億參數,能在即時音訊串流中標記最多八位說話者的發言時間。此次發布引入了串流 Sortformer 架構,結合到達順序語者快取(AOSC)與 FIFO 佇列,以高效處理動態的語者情境。
該工具透過解決即時環境中複雜的多語者分離問題,顯著推進了語音轉文字(Speech-to-Text)管線,對於會議記錄和客服分析等應用至關重要。它為開發人員提供了一個高效能、開源的解決方案,可無縫整合到現有的 AI 音訊處理工作流程中。
在技術實作上,該模型支援透過 DeepInfra 等 API 進行串流推論,利用 AOSC 維持情境,無需對完整音訊進行緩衝。此外,它設計用於與自動語音辨識(ASR)和語音活動檢測(VAD)協同工作,以準確分割並標記來自多語者錄音的生成文字。
事件背景
語者分離(Speaker Diarization)是確定音訊錄音中誰在何時說話的過程,本質上是根據語者身分將語音片段進行分群。它建立在自動語音辨識(ASR)和語音活動檢測(VAD)之上,為轉錄文字添加元數據,以區分對話中的不同說話者。這項技術對於讓多人口語的原始音訊轉錄內容易讀且具可操作性至關重要。



