Drew Breunig 指出,Anthropic 新推出的 Fable 模型雖然效能驚人,但價格高昂,使得 Opus、5.6、K3 和 GLM 等較舊模型足以應付大多數程式碼任務。Fable 的定價為每百萬輸入 token 10 美元,促使開發者重新評估工作分配策略。這種轉變讓開發重心從追逐最新、最昂貴的模型,轉向優化程式碼框架(coding harnesses)與上下文策略。優化程式碼框架可帶來 5% 至 14% 的效能提升,效果甚至優於單純更換模型,顯示周邊基礎設施的優化已變得與選擇最佳底層模型同樣重要。
事件背景
程式碼框架(coding harness)是指圍繞大型語言模型(LLM)的軟體基礎設施,包含編輯格式和工具介面,用於輔助模型進行程式碼任務。框架工程涉及調整這些介面,以最大化模型的輸出品質與效率。隨著 GLM 和 Opus 等模型以較低成本提供強大功能,團隊發現優化與模型的互動方式,通常比升級到高端層級能帶來更高的投資回報率。



