Sberbank 旗下 AI Sage 發布了 GigaChat-3.5 Reasoning，這是一款採用 Gated DeltaNet 架構的 432B-A28B 混合專家（MoE）模型，旨在提升長上下文處理效率。該模型聲稱其性能接近 DeepSeek V4 Flash Preview，且在推理軌跡中使用的 token 數量減少了 37%。 此次發布引入了新型架構 Gated DeltaNet，據稱在語言建模和長上下文理解等基準測試中表現優於 Mamba2 等現有模型。其高效的 token 使用率和開源的 MIT 許可證，使其成為開發者尋找高性能推理模型時的有力競爭選項。 該模型透過領域專家訓練，並採用「在策略蒸餾」（on-policy distillation）技術進行蒸餾，即學生模型從自身生成的軌跡中學習。模型權重已開放於 Hugging Face，且社群對透過 llama.cpp 進行本地推理支援的興趣濃厚。

事件背景

混合專家（MoE）模型在每次輸入時僅激活總參數的子集，從而以較低的推理成本實現更大的模型容量。Gated DeltaNet 是一種線性變壓器架構，透過引入閾值 delta 規則機制來進行智能記憶體管理，從而提升訓練吞吐量並改善長上下文任務的表現，對 Mamba2 進行了改進。