REMORY 推出殘差記憶網路，協助長程代理在壓縮歷史後維持決策能力

研究團隊提出 REMORY，透過生成軟性記憶權重來輔助文字摘要，讓大型語言模型在有限上下文視窗內仍能近似完整歷史的表現。測試顯示，該方法僅使用 5.2% 的輸入位置即可接近完整上下文的綜合分數，並顯著減少工具重複輸出與錯誤。

AI 新聞雷達編輯團隊·本站收錄：2026/10/21 04:03（台灣時間）·閱讀約 2 分鐘

本站收錄時間為新聞雷達完成整理的時間，不代表事件發生時間。原文日期僅在取得明確來源證據時顯示；未標示者請參閱下方原始來源。

30 秒掌握

REMORY 並非取代文字摘要，而是作為補充機制，生成附加在摘要後的軟性記憶權重以輔助決策。

在 SummHay 基準測試中，該方法維持了洞察覆蓋率，同時大幅改善來源歸屬準確度。

搭配 Qwen3.8-27B 與 GLM-5.3-Flash 模型時，代理在 BrowseComp 和 Terminal-Bench 2.1 上的工具錯誤明顯減少。

以軟性記憶權重補充文字摘要的不足

長程代理為了在有限的上下文視窗內持續運作，必須壓縮歷史記錄，但單純的文字摘要往往無法支持後續的所有決策。REMORY 是一種神經記憶網路，旨在解決這個問題，它不直接取代摘要，而是生成一組有界序列的軟性記憶權重作為補充。

該網路接收歷史記錄與摘要作為輸入，學習生成特定的權重，幫助凍結的大型語言模型近似其在擁有完整歷史時會產生的續寫結果。這些生成的權重以摘要為條件進行調整，並附加在摘要之後，形成一種沿序列維度的殘差連接類比結構。

在 SummHay 基準測試中，REMORY 展現出在極高壓縮率下維持模型能力的潛力。數據顯示，該方法僅使用原始輸入位置的 5.2%，即可接近完整上下文情境下的綜合分數。

具體而言，REMORY 在幾乎不影響洞察覆蓋率的前提下，顯著改善了來源歸屬的準確度。這顯示該方法能在極少輸入位置下維持關鍵決策能力。

研究團隊在多個長程代理基準測試中評估了 REMORY 的效果，特別是在搭配 Qwen3.8-27B 和 GLM-5.3-Flash 模型時。結果顯示，引入殘差記憶機制後，這兩個模型在任務執行上均呈現一致的效能提升。

除了整體表現的提升，測試還觀察到代理行為的具體改善。在 BrowseComp 和 Terminal-Bench 2.1 等測試環境中，使用 REMORY 的模型出現重複工具輸出以及工具錯誤的情況大幅減少，顯示記憶輔助機制有助於提高代理執行任務的穩定性與準確度。