文章分析了 AI 輔助開發如何讓不可解釋且無法重複的故障，逐漸成為軟體系統中的常態。這種轉變凸顯了生產力提升與程式碼可靠性及責任歸屬下降之間的日益緊張關係。
此趨勢的重要性在於它不僅影響使用者介面的應用程式，還波及關鍵的函式庫、基礎設施和編譯器。如果不可靠性在整個技術堆疊中成為常態，可能會因隱藏的除錯成本而拖慢所有人的開發速度。
關鍵技術細節包括「規格漂移」的出現，即程式碼在無人察覺的情況下偏離其規格，以及依賴暗示隨機 AI 輸出具有人類中心主義確定性的「信心分數」。實證研究顯示，LLM 生成的程式碼有顯著的失敗率，且通常需依賴外部服務才能完整運作。
事件背景
現代 AI 系統，特別是大型語言模型（LLM），運作於根本上的隨機過程中，意味著它們根據機率而非確定性邏輯來生成輸出。在軟體工程中，可重複性對於除錯至關重要；當故障無法被一致地重複時，識別根本原因變得更加困難。這與傳統確定性環境形成對比，在該環境中相同的輸入總是產生相同的輸出。
社群觀察
社群成員擔心在基礎設施和函式庫中常態化故障會造成不可靠的混亂，進而拖慢所有人的進度。雖然有些人承認代理輔助開發的生產力優勢，但他們強調需要嚴格的測試和確定性來維持正確性。其他人則指出，AI 的「信心分數」通常暗示了演算法實際上並不具備的人類中心主義意義。
