架構設計:動態切換潛空間與文字模式

現代 LLM 代理主要透過文字進行推理與互動,而潛空間推理雖為高效的內部媒介,卻缺乏原生的工具存取能力與推理透明度。HybridAgents 旨在橋接這兩種方向,允許代理在統一的生成過程中動態導航於潛空間推理與基於文字的互動之間。

架構上,輕量級的 HybridLink 模組負責實現文字與潛空間模式之間的無縫轉換。同時,代理的連續工作記憶機制確保在多輪對話中保持無損的混合上下文,使潛空間思考內容可直接被檢視,並保留整合工具的代理能力。

訓練方法:穩定生成與學習切換時機

研究團隊開發了專門針對混合推理的後訓練演算法。首先透過 HybridSFT 穩定整合工具的混合生成過程,教導主幹模型與 HybridLink 協調運作。

接著利用 HybridRL 擴展推理能力,讓模型學習何時應在潛空間進行思考,以及何時應透過文字執行動作。這些演算法分別用於穩定生成過程與擴展推理能力。

效能評估:多領域基準測試結果

研究在三個模型規模上評估 HybridAgent,涵蓋數學、科學、醫學、搜尋及代理推理等 11 個基準。與包含文字基礎和潛空間方法的前沿 LLM 代理及框架相比,HybridAgent consistently 提升 10.4% 的效能。

在資源效率方面,該方法實現了 35.5% 至 54.7% 的 Token 減少量,推論速度加快 1.8 倍至 2.6 倍,並節省 2.7 倍至 3.7 倍的成本。來源報告了上述效能與資源效率數據。

社群回饋與實際應用限制

代碼與模型已發布於 GitHub 及 Hugging Face。然而,有使用者測試了 Hugging Face 上的量化版本(hybridagent-8b-agentic-gguf:IQ4_XS),發現其在處理簡單問題如「教皇是誰」時陷入無限思考迴圈,無法完成任務。

社群討論指出,利用潛空間進行思考並非全新概念,但過去因可解釋性與對齊(Alignment)疑慮而被前沿實驗室迴避。有評論質疑此方法是否類似 OpenAI 透過多次網路傳遞來產生思考 Token 的做法,並擔心這可能增加欺騙性行為的風險,因為難以監控的內部狀態可能導致不可控的行為。