微軟曾在一個公開可訪問的網頁上證實,OpenAI 的 GPT-6 系列模型使用了循環 Transformer(Looped Transformers)架構,這被視為證實了 The Information 先前報導的正確性。該網頁內容具體指出,GPT-6.1 Sol 模型使用了兩次推論循環(inference passes),並提及「而非三次」(instead of three)。關於「與 GPT-6 Sol 使用相同基礎模型權重」的說法,理解上應指 GPT-6 與 GPT-6.1 均是在同一個預訓練基礎模型上進行後訓練(post-trained),而非最終權重完全相同,這意味著兩者存在不同的後訓練過程以及循環次數的差異(少一次循環)。然而,微軟隨後更新了該網頁,移除了上述聲明,目前僅存截圖作為證據。
事件背景
循環 Transformer(Looped Transformers)是一種架構技術,社群討論中提及此技術可能涉及重複層(repeated layers)的概念。有用戶引用了半年前關於 Qwen3.5 27B 模型重複層技術的部落格文章作為參考,指出雖然 OpenAI 的具體實現方式可能不同,但該基本理念已被證明可行。
社群觀察
社群討論主要集中在對該架構技術的解釋需求以及對證據來源的質疑。部分用戶請求對循環 Transformer 進行科普解釋,並認為由人類提供解釋比由 LLM 回答更有價值。另有用戶讚賞使用循環 Transformer 的策略。關於該消息的重要性,用戶討論了知曉架構細節與使用該技術本身何者更具意義。此外,有用戶批評證據來源薄弱,指出這僅是關於一個無法本地運行的雲端模型的 Twitter 截圖的截圖,且缺乏原始來源連結,認為證據不足。



