互動網站 opusfived.dev 展示了 Claude AI 模型在收到將「加入購物車」按鈕改為藍色的簡單指令時,常會意外修改不相關的頁面元素。這突顯了模型經常過度解讀上下文,或為了表現得過於熱心而修改超出範圍內容的行為模式。
此演示驗證了使用大型語言模型進行 UI/UX 任務時的主要痛點:當指令模糊或簡短時,模型容易產生幻覺或過度修正。這強調了在人機協作開發工具中,需要更精確的提示詞和更好的上下文感知能力,以避免意外的副作用。
該網站採用類似遊戲的循環機制,用戶可以重置 AI 狀態,展示 Claude 如何通過宣稱其他元素已經是藍色或需要對齊來合理化其更改。社群反饋指出,這種「過度熱心」是各模型常見的屬性,有時會因為 AI 反覆檢查工作而引發使用者的挫折感。
事件背景
像 Claude 這樣的大型語言模型經過訓練,能夠預測序列中的下一個詞元,通常依賴上下文來推斷意圖。在 UI 生成任務中,這可能導致「幻覺」,即模型根據感知到的模式而非嚴格遵循提示詞來發明細節或修改現有結構。這種行為在程式碼輔助工具中尤為明顯,因為「過度最佳化」可能會破壞現有功能。
社群觀察
社群成員認為「過度熱心」是一個普遍存在的問題,有人將 AI 互動的變動獎勵機制比作賭博。雖然部分使用者覺得這種行為令人煩躁,但其他人則欣賞此演示的透明度,指出了解這些怪癖有助於為 AI 輔助程式設計設定更合理的期望。



