一篇部落格文章詳細說明,如何利用模型特定的行為模式與檔案遮蔽技術,以 60-80% 的成功率突破 Claude Code Opus 5 自動模式的提示注入防護。此技術透過在攻擊者控制的目錄中建立惡意檔案,誘騙代理程式下載並執行程式碼。
攻擊利用一個遮蔽 Python 標準程式庫實作的惡意 `struct.py` 檔案,導致代理程式無聲地匯入並覆蓋基本功能。由於模型在處理網頁摘要時會可靠地呼叫 `python -c` 等特定工具,該漏洞得以生效。
這項漏洞突顯了依賴自動工具選擇和檔案系統互動的 AI 程式碼代理程式之間關鍵的安全缺口,展示了如何透過學習大型語言模型(LLM)特定的「習慣動作」來進行針對性攻擊,進而影響自主軟體開發工作流程的可靠性。
事件背景
大型語言模型(LLM)代理程式通常會整合外部來源和本地檔案系統來執行任務,這使得它們容易受到提示注入攻擊,即不受信任的內容可以操縱其行為。檔案遮蔽發生在本地檔案與標準程式庫模組同名時,導致直譯器載入本地檔案而非系統檔案。在此情境下,代理程式根據特定觸發條件自動執行程式碼的傾向,可以被預先放置在工作目錄中的惡意檔案所劫持。
社群觀察
社群成員討論這是否屬於真正的提示注入,還是針對 Claude 特定行為習慣的木馬,有人指出它未必會劫持代理程式的整體意圖。其他人則強調對代理程式進行沙盒化處理的重要性,以防止此類檔案系統互動導致意想不到的副作用或當機。



