最新分析指出,Claude 和 GPT 等專屬模型中的隱藏推理標記,其結構模式與開源思維鏈(Chain-of-Thought)方法相似。這意味著這些領先人工智慧模型的內部推理機制,與開源社群現有的技術並無根本差異。

研究人員利用特定的數學問題(例如 AIME 幾何題)來解碼模型內部的隱藏狀態。這些解碼後的標記代表模型內部的符號計算,雖然並非設計供人類直接閱讀,但成功揭示了模型的逐步邏輯。

事件背景

大型語言模型(LLM)在產生最終答案前,通常會生成中間推理步驟,此過程稱為思維鏈(Chain-of-Thought)。在 GPT 和 Claude 等專屬模型中,這些內部步驟通常對使用者隱藏,以節省成本或降低延遲,但可透過 API 回應提取。可解釋性研究旨在釐清這些隱藏狀態如何在內部表示概念並進行計算。

社群觀察

社群成員普遍認為已無重大的架構祕密配方,將效能差異主要歸因於資料、運算資源和工程技術。部分使用者對開源模型即將在消費級硬體上達到 GPT-5 等級的能力表示樂觀,而其他人則指出解碼推理過程對於後訓練和強化學習的實際益處。