根據分析，在當前效率提升速度的推動下，LLM 令牌成本將很快低於 grep 等傳統工具的呼叫成本。這項預測暗示了一種範式轉移，即 AI 推理在經濟效益上將優於傳統運算任務。文章引用斯坦定律（Stein's Law）指出，效率提升不可能無限持續，並強調高品質的編譯工具在每次呼叫的成本上可能仍具優勢。此外，文章批評業界基準測試圖表過度簡化了不同效能指標之間的權衡。

事件背景

LLM 令牌定價通常以每百萬令牌為單位計算，其中輸出令牌的價格通常是輸入令牌的三到五倍。自 2021 年以來，推理成本大幅下降，使得使用 LLM 進行簡單文字處理任務的經濟可行性變得越來越具吸引力。

社群觀察

社群成員對當前效率趨勢的持久性展開辯論，部分人士引用斯坦定律來暗示成本減少的上限。其他人則批評基準測試方法論，並強調在大量基礎設施投資下，永續商業模式的重要性。