研究人員展示了一種新技術,可從專有大型語言模型(LLM)API 中提取隱藏的推理軌跡。該方法首先取用前沿模型產生的軌跡,將其重放至較弱的兄弟模型中,再對該較弱模型進行越獄攻擊,從而提取詳細的思考過程。

此發現證實推理軌跡在不同模型間具有可移植性。這意味著即使 API 採用按推理代幣計費的模式,模型的內部邏輯仍可能透過擷取與重複使用而暴露,突顯了專有模型在智慧財產權保護與訓練資料完整性方面的潛在漏洞。

此外,社群觀察指出,某些模型(如 Opus 4.8)有時會在推導前先給出答案,而這種區別在提取的軌跡中得以保留,進一步揭示了模型處理問題的特徵。

事件背景

推理軌跡(常稱為思維鏈,CoT)是大語言模型在產生最終輸出前,為解決複雜問題而生成的中間步驟。模型提取攻擊涉及查詢 API 以建立模仿目標行為的複製模型,而知識蒸餾則是將知識從大型模型轉移至較小模型的技術。

社群觀察

社群成員對這種可移植性是有意為之的驗證功能還是疏忽表示好奇,並指出這證實了模型對特定問題集進行了大量訓練。對於「竊取」的定義意見兩極,有些人認為既然用戶為計費,就擁有輸出內容;另一些人則指出歐盟對 LLM 輸出缺乏版權保護。