Baseten 與其研究部門 Base Labs 推出新的安全基礎設施標準，並與 Hugging Face 及 Goodfire AI 合作，為開放權重模型建立評估與監控系統。此舉旨在應對日益普及的「消融」（abliteration）技術，該技術可移除模型的安全防護。目前 Hugging Face 平台上已列出超過 6,000 個經過消融處理的模型，顯示問題規模龐大。Goodfire AI 專注於基於可解釋性的理解與干預，與其他安全組織的行為評估形成互補。這項合作透過提供工具來監控和評估無審查模型的安全性，標誌著開放原始碼 AI 產業向標準化安全基礎設施的重大轉變，旨在減輕因移除模型拒絕機制而產生的風險。
事件背景
消融（Abliteration）是一種權重修改技術，用於移除開放權重大語言模型內部表示中的「拒絕方向」。這使得模型能夠回應通常會拒絕的提示（例如生成成人內容或繞過安全防護），而無需進行微調或提示詞劫持。與基於提示詞的劫持相比，它在不同會話中被認為更加穩定。
社群觀察
社群態度普遍持懷疑立場，用戶認為由於消融模型容易複製，安全基礎設施的有效性值得商榷。評論者指出，既然開放原始碼本質上是開放的，任何限制都可以被繞過，且只有大型 AI 供應商才有足夠的規模來真正影響整體格局。
