麻省理工學院博士生 Alex Zhang 接受專訪,分享其關於遞迴語言模型(RLM)、TypeSafe AI 的 Jev 決策模型,以及 AI 訓練中「控制組件」(harnesses)未來的研究成果。Zhang 討論了 RLM 作為一種將長提示視為外部環境的範式,允許大型語言模型遞迴地檢查和分解它們。他也提到了 Jev,一個用於快速、類型化決策的專用模型,以及控制組件在訓練中促進組合泛化的概念。這篇專訪提供了寶貴的見解,說明關於推理時間擴展和組合泛化的學術研究如何應用於實際 AI 系統,連接了理論論文與產業工具之間的差距。它突顯了像 Jev 這樣的專用模型在處理大型 AI 工作流程中結構化決策時所扮演的演進角色。

事件背景

遞迴語言模型(RLM)是一種推理範式,允許大型語言模型通過將任意長的提示視為外部環境的一部分來處理它們,使模型能夠以程式化方式檢查並遞迴調用自身。Jev 是一個專用的 AI 模型,旨在對結構化或非結構化的應用狀態進行快速、機器可讀的判斷。在 AI 訓練中,「控制組件」指的是組合結構,通過將結構相似的任務視為同構來幫助模型更好地泛化。