Hugging Face 發表了一篇論文,介紹了一種安全框架,該框架訓練模型僅拒絕特定主題的子集,而非整個主題。此方法利用邊界感知自我蒸餾技術,在廣泛的主題中區分有害與良性實例。該方法將部署特定的安全性定義為拒絕較廣泛主題內的目標有害子集。評估使用了每側 1,539 個保留的有害-良性邊界對,以測試值得拒絕和值得順從的實例。

事件背景

新框架將焦點從主題層級的拒絕轉移至子集層級的拒絕,要求模型在特定領域內學習安全與不安全內容之間的精確邊界。