Heritic 專案推出了一款全自動工具，利用稱為 Abliteration 的技術移除基於 Transformer 的語言模型中的審查與安全對齊。此流程無需昂貴的後訓練即可消除拒絕回應的行為，使模型能更自由地遵循指令。 這項進展對開放權重模型意義重大，因為它讓模型能在物聯網裝置控制等場景中更廣泛地使用，而嚴格的安全過濾器可能會妨礙其功能。它滿足了市場對於無需預設拒絕回應的本地未審查模型日益增長的需求。 Abliteration 透過從模型權重中精確移除拒絕機制來運作，同時保留了其核心智慧與能力。然而，一個關鍵的注意事項是，如果訓練數據對某些主題傾向於拒絕回應，即使移除了限制，模型可能仍缺乏正確回答所需的實際知識。
事件背景
語言模型通常使用來自人類反饋的強化學習（RLHF）進行微調，以符合人類偏好，其中包括添加安全過濾器以拒絕某些提示。Abliteration 是一種較新的技術，能夠識別並移除負責這些拒絕行為的神經路徑，從而有效地「解除審查」模型，而無需重新訓練。
社群觀察
社群成員強調了該技術對於受供應商限制困擾的物聯網用戶的實際益處，而其他人則警告說，如果訓練數據傾向於拒絕，Abliterated 模型可能會缺乏相關知識。此外，人們還猜測這些開放權重模型可能會比其他模型更早面臨監管審查。
