OpenAI 於 2026 年 10 月 30 日宣布兩項旨在強化 ChatGPT 暴力預防與社區安全的舉措：發布新的「社區安全報告」以及針對未成年人實施更嚴格的槍械內容限制。作為全球最廣泛使用的 AI 產品之一，ChatGPT 已建立先進系統以偵測潛在危害、審查可疑活動並升級可信威脅。OpenAI 表示，2026 年第三季度已向執法部門轉介超過 200 起案件，這些轉介在破壞暴力陰謀方面發揮了積極作用，且公司持續依賴心理健康與行為專家評估困難案例。
OpenAI 承諾將於 2027 年初發布首份關於暴力預防及其他社區安全問題的「社區安全報告」，涵蓋 2026 年下半年內容，此後每六個月更新一次。該報告將解釋系統如何偵測、調查及回應社區安全問題，分享匿名化的暴力相關危害案例與學習心得，並提供支持發現的相關數據。
在政策邊界方面，OpenAI 強化了對所有用戶的限制。模型被訓練為不提供有助於規劃或執行暴力的指令。現在，ChatGPT 在回答關於過去大規模襲擊及其實施者的問題時，將提供更少的細節信息，即使這些信息可從其他線上來源獲得。具體限制包括：禁止重現過去大規模襲擊的細節（如武器裝備及其取得方式），以及可能放大攻擊者知名度的傷害規模詳細比較。這些限制適用於所有用戶，不分年齡或詢問原因。
針對警示信號的回應，ChatGPT 將利用先前對話中的簡短事實摘要來更謹慎地回應後續聊天。當近期聊天顯示可能的暴力警示信號時，ChatGPT 在分享可能被誤用的信息時會採取更保守的態度。此外，即使聊天中沒有暴力意圖跡象，若預測用戶年齡低於 18 歲，也會應用這些更嚴格的限制。OpenAI 禁止違反暴力活動政策的帳戶，並正與專家合作開發自動干預機制：當對話顯示某人對暴力或嚴重傷害他人的想法產生固著時，ChatGPT 將能自動結束聊天以中斷該模式；若因該原因多次結束聊天，可能會暫時暫停帳戶。
針對青少年的保護措施進一步加強。ChatGPT for Teens 為 18 歲以下用戶提供符合年齡的安全防護。現在，即使問題看似無害，也限制了青少年可接收的武器相關信息。政策已禁止幫助任何人規劃或執行暴力，並限制幫助青少年尋找或獲取武器。現將這些保護擴展至限制可能被誤用促進暴力的武器及安全系統實用信息。青少年仍可使用 ChatGPT 預防和緩解暴力、尋求支持及聯繫可信成年人。
OpenAI 去年推出了年齡預測功能，分析行為模式等多種信號以估計用戶是否低於或高於 18 歲。該系統已強化，能持續評估新信號並在適當時候將青少年移至 18 歲以下體驗。被錯誤歸類為青少年的成年用戶可透過年齡驗證合作夥伴 Persona 快速確認身份並移除額外保護。家長控制功能允許家長連結帳戶並共同管理安全設置，包括在識別到嚴重自殘擔憂或飲食失調相關行為時發送安全警報。7 月已擴展警報範圍，通知家長其青少年帳戶因違反暴力使用政策而被停用；未來還計劃在帳戶因反覆討論暴力而被暫停時通知家長。
這些安全措施將在未來幾週內開始推出，OpenAI 將持續完善並投資於技術與實際保護措施，包括可靠識別警示信號及決定何時以及如何進行干預。
尚待確認：原文未提供具體的執法轉介案例細節或統計數據來源連結內容，僅提及有正面影響。
尚待確認：自動結束聊天功能的具體觸發閾值與技術實現細節未在文中詳述。
尚待確認：年齡預測系統的準確率及誤判率數據未提供。
