OpenAI 執行長山姆·阿爾特曼宣布，針對即將推出的模型暫停兩週的前端強化學習（RL）訓練。此決定是因為模型能力進步極快，已超越安全與對齊措施的進度。 這次暫停突顯了 AI 速度與安全之間的關鍵平衡，顯示 OpenAI 將對齊性置於原始能力增長之上。這影響了業界信任度，並暗示未來的硬體範式可能需要加速發展以跟上這些快速進步。 這次暫停特別針對強化學習負載，該技術用於磨練大型語言模型的推理能力。OpenAI 旨在恢復如 Astra 等模型的訓練前，達到適當的對齊、安全與監控標準。

事件背景

強化學習（RL）是一種訓練方法，AI 代理透過對其行為給予獎勵或懲罰來學習決策，從而磨練推理能力。AI 對齊是指確保 AI 系統的行為與人類價值觀和意圖一致。隨著模型變得更加強大，它們不可預測行動的風險也會增加，因此安全監控至關重要。

社群觀察

社群情緒兩極，有人對 AI 執行長們的承諾表示懷疑，也有人擔心下一個硬體範式轉移。一位用戶指出未來效率提升帶來的嚴重擔憂，另一位則開玩笑說這是第一起電腦相關致命事故。