JetBrains 在 Hugging Face 上發布了 Mellum2.1 模型集合,其中包含 Mellum2.1-12B-A2.5B-Thinking-GGUF 模型權重。該模型為擁有 12B 參數的混合專家(MoE)架構,活躍參數約為 2.5B,並提供 GGUF 格式以支援本地推理。根據社群轉述的發布資訊,Mellum2.1 相比前代 Mellum2 在代理式編碼(agentic coding)方面改進最大,且在編碼、競賽編程、數學、工具調用及通用知識等方面均有提升,同時在處理困難問題與日常任務時表現穩定。原始來源未明確標示授權條款,但社群討論中有用戶提及 Apache 2.0 授權。

事件背景

混合專家(MoE)是一種架構,透過稀疏激活來提高效率,將輸入路由到特定的專家網絡,從而使大型模型在推理期間擁有較少的活躍參數。GGUF 是一種針對本地 LLM 推理優化的二進位文件格式,將權重和元數據打包在一起,以便與 llama.cpp 等工具高效加載。

社群觀察

社群對這次意外的發布表示興奮,並計畫立即嘗試。有用戶指出,雖然基準測試分數可能並非頂級,但與密集模型相比的速度優勢使其適合用於自動補全(FIM)和本地手動編碼輔助。另有用戶希望模型能更小以便在智慧型手機上運行。部分用戶對 Apache 2.0 授權表示歡迎,並詢問該模型具體擅長哪些領域。