OpenAI 宣布成功中斷了一項旨在從其系統中提取受保護模型推理能力的協同活動。該活動目標在於提取通常隱藏於模型內部狀態或輸出中的受保護推理軌跡。

為應對此威脅，OpenAI 推出了新的防禦機制，專門用於抵禦針對大型語言模型的對抗式蒸餾攻擊。這項新技術透過檢測與中斷提取模式，防止較小的學生模型完全利用這些知識。

此舉為防禦對抗式蒸餾建立了新標準，解決了封閉源 AI 系統供應商面臨的主要挑戰。這項進展對 AI 安全具有重要意義，確保大型模型的專屬推理能力不被競爭對手或攻擊者竊取。

事件背景

模型蒸餾是一種機器學習過程，將知識從大型複雜的教師模型轉移至小型高效的學生模型。對抗式蒸餾特指透過非授權查詢提取這些知識，使攻擊者能夠以緊湊的形式複製教師模型的能力。這對於大型語言模型尤為重要，因為推理能力是其關鍵的專屬資產。