模型架構與參數規模

SteerTTS是一個從零開始實作的新架構,總參數量為2300萬。其中聲學模型佔960萬參數,採用注意力機制結合雙向Mamba-3技術,並參考FastPitch風格設計。

語音合成部分使用Vocos作為聲碼器(vocoder)。開發者表示,尋找小型且可控制的TTS模型時發現市場空缺,特別是那些能透過大型語言模型(LLM)在對話中提供上下文控制參數的模型,因此決定自行開發。

聲音風格控制機制

該模型提供12種控制參數,每個參數均以相對於所選語音中性狀態的標準分數(z-score)表示。這些控制項包括語速、音量、中位音調、音調範圍、句尾升調或降調、停頓、頻譜傾斜以及與氣聲相關的指標。

除了數值化控制,模型還支援51種風格標籤、自由文本提示(會解析為可檢查的JSON請求),以及內嵌標記功能,例如使用星號進行強調、插入特定長度的停頓或調整局部語速。

系統內建2,825種已匿名化的內建語音,並提供實驗性的零樣本克隆(zero-shot cloning)功能,但開發者明確指出克隆的相似度較低,難以達到令人信服的逼真度。

執行效能與硬體需求

在RTX 5070顯示卡上,模型的即時因子(Real-Time Factor, RTFx)約為60至80,意味著生成速度遠快於即時播放。

若不使用可選的流匹配精煉器(flow refiner),模型可在CPU上運行,RTFx約為4至8。在CPU環境下,首次串流音頻的延遲時間約為0.5秒。

模型支援句子級別的串流輸出,適合需要低延遲互動的應用場景。

品質評估與已知限制

根據開發者在Open TTS Leaderboard英語測試集上的本地運行結果,平均詞錯誤率(WER)約為1.8%。需注意這並非官方提交的成績,開發者已聯繫相關單位進行正式評估。

開發者坦承部分控制功能效果不佳:音量、音調和頻譜傾斜的控制較為可靠,但停頓、濁音化(voicing)和CPPS(諧噪比指標)的控制較弱。

情緒標籤僅作為風格切換使用,獨立的分類器大多無法區分這些情緒標籤。自由文本提示在處理否定語句時表現不佳,例如輸入「不快」(not fast)可能會生成快速的語音,這表明從提示到控制參數的模組化轉換仍需更多數據訓練。

目前僅支援英語,且尚未進行人類主觀評估(human evals)。

授權與資源獲取

模型權重採用CC BY-NC 4.0授權條款,僅允許非商業用途使用。程式碼則以MIT授權發布。

完整的模型檔案與評估表格已發布於Hugging Face平台(WhissleAI/steer-tts)。開發者歡迎社群回饋,特別是關於哪些控制參數實際有用,以及風格控制出現偏差的具體情境。