佛羅里達州博尼塔斯普林斯（Bonita Springs）女子 Carli Michelle Heller 因在 Anthropic 的聊天機器人 Claude 中寫下攻擊警長辦公室的意圖，被 Anthropic 的安全系統標記並經人工審核員通報警方，現面臨重罪指控。據逮捕報告顯示，Heller 於 9 月 26 日寫下她將攻擊警長辦公室，並表示她將 Anthropic 的聊天機器人當作「日記」使用。Claude 的安全系統標記了該條目並升級至人工審核員，審核員在判定其為可信威脅後通報執法部門。Anthropic 表示，若認為披露資訊對於防止死亡或嚴重身體傷害是必要的，公司可能會在有限的緊急情況下分享用戶資訊。副警長確認了 Heller 的身份並前往其住所，她在無衝突的情況下被拘留，隨後由李縣警長辦公室（LCSO）的情報偵探接手調查。Heller 面臨依據佛羅里達州法規 836.10 提出的書面暴力威脅指控。該法規規定，以他人可能看到的方式發送、張貼或傳輸威脅殺害或傷害某人、進行大規模槍擊或實施恐怖主義行為的書面或電子記錄，構成二級重罪。
事件背景
此事件凸顯了 AI 聊天機器人並非僅供個人查看的私人日記，用戶應謹慎考慮輸入內容。近期相關案例顯示 AI 公司在處理安全標記時面臨法律壓力：上個月有報導稱，OpenAI 和 Sam Altman 因被指控本可預防加拿大不列顛哥倫比亞省的一起大規模槍擊事件而遭到起訴。該槍擊案兇手 Jesse Van Rootselaar 曾因其關於槍支暴力的對話被 OpenAI 的安全團隊標記，但 OpenAI 因對話未達到法律轉介門檻而未通報警方。此外，佛羅里達州於 6 月也起訴了 OpenAI 和 Altman，指控 ChatGPT 對現實世界的傷害有所貢獻，包括 2025 年佛羅里達州立大學槍擊案。另有報導指出，審查 Microsoft Copilot 圖像編輯器的人類承包商可以看到用戶的提示、上傳的照片和 AI 生成的編輯內容，儘管審查員僅評估輸出準確性而非標記內容。
社群觀察
社群討論呈現分歧觀點。部分網友對 Anthropic 表示同情，認為在 OpenAI 因未通報槍手而面臨訴訟的背景下，AI 公司面臨「做也不是，不做也不是」的困境。其他網友則強調用戶應意識到與 AI 聊天並非與私密好友對話，而是與大型科技公司互動，並批評先前關於 LLM 聊天隱私性的說法。也有討論質疑此舉是否侵犯隱私，以及是否應由社會工作者而非警察介入。此外，有用戶指出法律定義上的爭議，認為寫下打算做某事與法律定義的「威脅」不同，並質疑她如何違反了該法規。還有用戶分享了自己測試 AI 內部標記系統時使用誇張或虛構情境的經驗，質疑人類審核員如何區分用戶是否認真。
