小參數模型在主流基準測試中超越大型競品

Timestral 家族包含 5M、28M、123M 和 209M 四種參數規模的模型，所有版本共享相同的架構與訓練配方。官方宣稱每個尺寸的模型都在準確度與模型大小的帕累托前沿上，意味著在同等參數量下沒有其他公開模型的預測表現更好。

在 GIFT-Eval、TIME 和 fev-bench 這三個時間序列預測領域的主要公開基準測試中，Timestral 的 209M 版本在所有五項指標中均排名第一。這些結果來自單一檢查點，未使用集成技術（Ensembling）。

具體比較顯示，Timestral 的 28M 模型在 GIFT-Eval 和 TIME 基準上擊敗了參數量約為其四倍的 Chronos-2。而 209M 版本則以較少的參數量超越了 TimesFM-3 和 Falcon-2.0。

GIFT-Eval 榜單上有 83 個可比的預訓練零樣本條目，TIME 榜單有 35 個條目，fev-bench 榜單有 37 個條目。Timestral 在這三個榜單中均進入前十名，且在相關指標上表現優於現有最先進技術（SOTA）。

無需 GPU 的高效 CPU 推論能力

Timestral 的設計重點之一是降低硬體門檻，其推論過程不需要 GPU。在配備 8 個執行緒的標準伺服器 CPU 上，模型可以從三週的 15 分鐘間隔歷史數據中預測未來一天的趨勢。

測試數據顯示，最小的 5M 參數模型完成上述任務僅需 10 毫秒，而最大的 209M 參數模型則需要 140 毫秒。較小的模型以犧牲部分準確度為代價換取速度，例如 28M 模型的速度是 209M 模型的五倍。

中間尺寸的 123M 模型在延遲上僅比 209M 模型快四分之一（即延遲較低），但其預測分數與 209M 模型的差距控制在 0.2% 以內，提供了準確度與效率之間的另一種平衡選擇。

處理多變量依賴與已知未來協變數的技術架構

傳統時間序列模型通常單獨預測每個序列，但 Timestral 採用多變量聯合建模方式。這意味著它能捕捉相關序列之間的依賴關係，例如幫浦的振動、溫度和壓力並非獨立變動，模型可以利用這些物理或操作上的關聯性來提升預測準確度。

該模型支援協變數感知注意力機制（Covariate-aware attention）。每個輸入序列被分配特定角色：目標變量、僅過去協變數或已知未來協變數。已知未來的驅動因素（如生產排程、計劃停機時間、天氣預報）可以在整個視窗內可見，而目標變量保持因果性，資訊僅從協變數流向目標，避免洩漏目標自身的未來資訊。

對於類別型協變數（如星期幾或機器狀態：運行、空閒、維護中），Timestral 直接將其作為類別輸入處理，而非編碼為數字，從而避免了強加不存在的順序或尺度關係。

機率預測與解耦地平線預測機制

Timestral 輸出的是機率預測而非單一數值，具體表現為預測 21 個分位數（Quantiles）。這讓使用者能夠看到預測的不確定性範圍，從而根據風險設定警報閾值或規劃維護計劃，而不是僅依賴單一點估計。

在技術實現上，Mistral 提出了「解耦地平線預測」（Decoupled Horizon Forecasting, DHF）方法。與 Toto 2.0 和 TimesFM-3 等使用連續 Patch Masking 的因果解碼器不同，DHF 將歷史數據與預測目標分離：完整歷史保留在序列中，學習到的預測 Token 讀取其之前的歷史。

這種架構確保每個觀測值同時作為目標和上下文，真正的缺失值仍被標記為缺失，且訓練時的地平線長度和缺失數據增強可以獨立調整。這解決了傳統方法中掩碼後的數值既作為預測目標又從上下文中丟失的問題。

以合成數據為主的两階段訓練策略

Timestral 的訓練資料大部分為合成數據。首先生成具有連貫時間動態（包括趨勢、季節性和多樣噪聲模式）的單變量過程，然後使用多變量合成器通過引入這些過程之間的非線性依賴關係來構建多變量序列。

訓練分為兩個階段：首先在純合成數據上進行大規模預訓練，上下文長度為 8192；隨後在混合真實與合成數據上進行後訓練，將上下文長度擴展至 4 倍（即 32,768 個時間步）。

訓練目標採用 Pinball Loss，這是對連續排名概率得分（CRPS）的離散近似。這種方法旨在讓模型學習跨序列轉移的模式，從而在從未見過的數據上進行零樣本預測，特別是在數據稀缺的領域。

企業級部署與 Mistral Forge 微調選項

Timestral 可作為數值模型整合到現有的監控管道中，或與 Mistral 的大型語言模型結合用於多模態代理工作流。例如在工業場景中，它可以持續監測感測器數據流以檢測異常，並由代理系統結合維護記錄、操作員筆記等上下文進行根本原因分析。

對於需要進一步適配的組織，Timestral 通過 Mistral Forge 提供訓練管道支援。這包括開箱即用的零樣本推論、架構擴展（如添加特定領域協變數）、以及在專有數據上的微調以實現領域專用化同時保留通用性能。

Mistral Forge 允許使用者完全控制訓練數據，包括調整訓練混合比例、重放預訓練數據以及生成反映目標領域的合成數據樣本。整個管道可以部署在客戶的硬體上，包括氣隙（Air-gapped）環境。授權條款為 Modified MIT。