KoboldCpp 推出了內建的 Agent Harness,作為比 Claude Code 等重型工具更輕量的替代方案。使用者只需勾選一個選項即可啟用智能代理功能,且其系統提示詞僅包含 2k token,極具效率。該框架內建 9 種工具,並支援透過 OpenAI Chat Completions 連接第三方後端。使用者可透過三種批准模式(開啟/自動/關閉)管理工具執行,並可透過載入 mcp.json 檔案來擴充功能。
事件背景
Agent 框架(Harness)是一套軟體層,讓大型語言模型能夠與外部工具互動、執行程式碼並自主管理任務。KoboldCpp 是一款廣泛使用的本地大型語言模型啟動器 GUI,以其 KV cache 前綴匹配等效能優化功能而聞名。
社群觀察
社群高度讚賞其僅 2k token 的系統提示詞所帶來的效率,認為這遠低於其他競爭對手。使用者也肯定了 KoboldCpp 在 KV cache 前綴匹配方面的優異表現,並感謝開發者的持續努力。



