OpenAI 發布了一套優先事項與原則,旨在指導對其前沿 AI 模型及防護機制進行嚴謹、安全且獨立的第三方評估。此框架旨在標準化外部專家如何評估該公司最先進系統的安全性和效能。
這些原則專門針對前沿模型,即能力、規模或風險處於領先水平的 AI 系統。評估過程涵蓋模型本身及其防護機制,確保對潛在誤用和安全措施進行全面審查。
事件背景
前沿 AI 模型是指在特定時期內最先進的人工智慧系統,透過龐大資料集訓練以提供最優異的效能。隨著這些模型能力增強,業界認同在公開發布前進行第三方評估以驗證安全聲明的的重要性。邊際模型論壇(Frontier Model Forum)和未來生命研究所(Future of Life Institute)等組織正積極開發指標與框架,以衡量各公司促進獨立審查的程度。



