Google DeepMind 研究員 Tom Zahavy 撰寫的一篇立場論文已獲 ICML 2026 錄取。該論文明確指出,大型語言模型(LLM)在結構上無法進行形成新穎解釋性假說所需的溯因「跳躍」。這種限制源於模型主要依賴詞元預測,而非操作溯因推理或物理模擬。論文突顯了演算法推理與溯因推理之間的根本差異:前者是 LLM 所能執行的,而後者對於科學發現至關重要。作者以愛因斯坦發展相對論作為思想實驗,指出他需要透過感官接觸物理世界才能進行直覺性的跳躍。這引發了關於當前架構是否需要感官錨定或多模態能力,才能實現真正創造力的討論。
事件背景
溯因推理涉及為觀察結果形成最佳解釋,通常需要在現有數據之外進行創造性的跳躍。相比之下,演算法推理是從一般前提推導出特定結論。大型語言模型主要擅長下一個詞元預測,這與演算法或關聯性過程更為契合,而非溯因的生成性「跳躍」。
社群觀察
社群成員指出,提交標題具有誤導性,因為這是一篇立場論文而非實證研究。討論集中在大型語言模型是缺乏感官錨定,還是僅作為無法真正「發明」新概念的進階詞元預測器運作。



