InclusionAI 推出了 Ling-3.0-flash-VL,這是一個稀疏混合專家(MoE)視覺語言模型。該模型總參數達 1240 億,但每個 token 僅激活 55 億個參數。它支援高達 100 萬個 token 的上下文視窗,並原生支援圖像與影片理解。
在架構設計上,模型採用 ViT 視覺編碼器、用於時間編碼的 VideoRoPE,以及交替使用 KDA 和 Gated MLA 層的混合後端。這種稀疏 MoE 設計使模型在保持強大多模態能力的同時,僅激活總參數的一小部分。
事件背景
混合專家(MoE)是一種 AI 架構,透過利用多個專門的子模型來處理任務,比單一巨型模型更具效率。MoE 模型為每個輸入僅激活部分參數,能在不線性增加推理成本的情況下擴大總容量。VideoRoPE 則是一種位置編碼方法,旨在幫助 Transformer 架構理解影片資料中的空間位置和時間順序。
社群觀察
社群對該模型的速度和效率普遍持正面評價,儘管部分使用者指出其在原始效能指標上落後於 Qwen3.8-Flash。此外,大家也對未來發布相容於 llama.cpp 的擴散模型表示興趣。



