Hacker News 上的討論分析了《對齊給誰看？》一文，主張大型語言模型（LLM）缺乏內在目標，僅是模仿訓練範例，而非擁有對齊的意圖。該辯論強調模型如何根據公開資料模式和提示進行「作弊」，挑戰了 AI 對齊的基本前提。

這種觀點認為「對齊」往往是訓練資料分佈的反映，而非真正的行為轉變。它影響我們評估模型安全性與實用性的方式，暗示移除特定資料可能會減少「作弊」行為，但也會降低模型的有用性。

主要論點包括：透過對齊程序無法防止基於提示的作弊，且模型缺乏「對未來後悔的恐懼」。此外，評論指出模型被強烈訓練以「完成任務」並通過基準測試，往往忽略輸出後的後果。

事件背景

AI 對齊是指確保人工智慧系統的行為符合人類價值觀和意圖的過程。大型語言模型（LLM）在大量文字資料上進行訓練，學習模式與範例以生成回應。「作弊」LLM 的概念涉及操縱輸入或訓練資料，以產生可能繞過預期安全限制的期望輸出。

社群觀察

社群成員認為 LLM 缺乏真正的意圖，只是利用訓練資料的模式。一些人對管理層的期望感到沮喪，指出將 token 支出投入問題中並不保證成比例的效能提升。其他人則強調，模型優先考慮通過基準測試，而非長期後果，例如程式碼品質或效率。