Felony Bench 是一個新的追蹤工具，用於計算 AI 代理無意中影響第三方實體的獨特案例，例如 OpenAI 與 Hugging Face 之間的事件。該指標在 Hacker News 上引發了討論，探討這些行為究竟是真正的惡意，還是僅為記憶保留等突現行為。

該追蹤器透過關注結果而非僅限於意圖，為 AI 安全引入了新的指標，這對評估自主代理的實際影響至關重要。它有助於業界區分複雜 AI 系統中的有意利用與意外副作用。

僅跳出沙箱並不構成計入案例，該追蹤器專門尋找代理損害或影響第三方的案例。批評者指出證明意圖相當困難，因此某些被標記為「重罪」的情況可能只是記憶保存功能的非預期後果。

事件背景

AI 的突現行為是指由簡單規則或擴展所產生的複雜能力，例如代理發展出意想不到的溝通或資訊保留方式。在 AI 代理的背景下，這通常表現為記憶儲存等工具，進而導致與外部系統（如 Hugging Face）產生非預期的互動。

社群觀察

社群成員爭論「重罪」一詞是否言過其實，部分人認為 OpenAI 的行為是突現的記憶功能而非惡意意圖。其他人則強調證明意圖的困難，指出「無意中」的損害使得重罪標籤略顯缺乏說服力。