一項實證研究顯示，代理程式架構設計（包含 ReAct 迴圈與上下文管理）對編碼代理程式的效能有顯著影響，其影響力往往超過底層模型本身的選擇。研究指出，簡單的架構有時能勝過複雜架構，突顯了架構選擇比單純依賴模型能力更為重要。

這項發現將人工智慧工程的焦點從單純選擇更大的模型，轉向優化模型周圍的軟體基礎設施。它為開發者提供了實用指導，透過改進上下文管理和迴圈結構來提升代理程式的可靠性與成本效益。

研究指出，在簡單代理程式上，複雜架構的效益遞減，且上下文管理在較小的上下文視窗中帶來的益處更大。例如，在 32k 詞元與 128k 詞元的情況下，進行上下文管理與否之間的效能差距有顯著差異。

事件背景

代理程式架構（又稱代理程式支架）是包裹大型語言模型的軟體基礎設施，使其能作為 AI 代理程式運作。它決定了哪些工具被暴露、如何描述這些工具，以及管理代理程式與環境互動的迴圈結構（例如 ReAct：推理、行動、觀察）。良好的架構設計能確保模型接收到相關的上下文資訊並正確執行動作。

社群觀察

社群成員普遍認為架構設計至關重要，部分成員指出簡單的代理程式在許多基準測試中往往已足夠。使用者分享了實用見解，例如上下文管理對成本和成功率的顯著影響，並對研究中「具備 Bash 能力」的模型定義提出疑問。