Intern-S2-Mobius 論文提出了一款基於 Mobius-v0 架構的 35B 基礎模型，其核心創新在於將知識儲存與推理能力進行解耦。這種架構轉變旨在透過分離模型儲存事實與處理事實的方式，來提升可解釋性與效率。該方法提供模組化設計以應對大型語言模型日益增加的複雜性，有助於提升除錯與微調的效率。在實作層面，該模型利用 Xtuner 和 LMDeploy 進行部署，支援單張 GPU 服務並採用推測解碼演算法。

事件背景

此架構設計符合認知雙系統理論的最新趨勢，該理論認為人類認知涉及快速直覺的知識檢索與緩慢深思的推理兩種模式。將此應用於人工智慧，意味著在模型架構中分離這些功能可能模擬人類的效率與清晰度，顯示知識與推理的獨立路徑可能帶來更穩健的人工智慧系統。

社群觀察

社群成員對模型在擴展後的表現表示懷疑，指出小型模型往往因實驗設定偏差而獲得不成比例的好處，強調需要嚴格的擴展測試以驗證其相對於更大參數量模型的效能主張。其他人則將其與神經圖靈機（Neural Turing Machines）相比較，欣賞其差異化的記憶體方法，同時也有人質疑論文的寫作風格過於冗長。