Anthropic、OpenAI 及其他 AI 公司的高層主管正在私下進行情境規劃，預演一場災難性 AI 事件後可能引發的公眾與政治反彈。這些官員預期將發生大規模事件，最可能是網路攻擊，導致金融服務、網路連線，甚至電力與供水中斷。首次由不安全 AI 造成的重大現實世界傷害，將使原本已對該技術持謹慎態度的公眾進一步反對該技術及其領導者，包括 Anthropic 執行長 Dario Amodei、OpenAI 執行長 Sam Altman，以及因不願監管該技術而受批評的川普總統。
雖然情境規劃在許多公司和國家安全領域（如五角大廈）很常見，但不同之處在於許多頂尖 AI 研究人員和高管認為重大事故是不可避免的。OpenAI 發言人表示，該公司進行準備演習，討論並處理各種潛在情境，但這些情境不被視為必然，而是為了幫助應對各種情況。Anthropic 拒絕置評。
無論是由內部測試環境中失控的「流氓代理群」（rogue-agent swarm）突破限制，還是壞人找到意外方式使用現有模型，責任歸屬之爭都將開始。近期針對韓國金融機構的攻擊活動（包括報導稱兩家銀行遭入侵）顯示了一個人可以造成的損害。據網路安全公司 CrowdStrike 稱，一名據稱來自中國的駭客使用中國開發的模型（包括 DeepSeek）的 AI 工具竊取了數萬名銀行客戶的資料，並使用 Claude Code 尋求出售竊取資料的地方。
頂尖 AI 規劃者假設民主黨在期中選舉後勢頭上升，將迅速關閉 AI，但將面臨重大挑戰。老化的國會可能因與 AI 革命脫節而力不從心。全球經濟現在與 AI 基礎設施建設高度交織，減緩其發展可能嚴重打擊已經脆弱的經濟。太多開放權重模型已經可以自由下載並用於造成傷害，大多數網路安全專家認為這個問題只能透過「用 AI 對抗流氓 AI」來解決。
規劃涉及對最壞情況的紅隊測試，重點主要在於爭分奪秒地教育國會議員。公司高管知道監管現在沒有通過的機會，但仍希望塑造美國領導人在首次災難性事件後將採用的立法和政策。許多 AI 業界內部人士告訴 Axios，他們認為重大事件將在未來六到十二個月內發生。即使民主黨控制眾議院和參議院，這些公司仍認為政治分裂是常態，包括民主黨內部。一些最嚴厲的民主黨提案包括禁止超級智慧或暫停先進 AI 開發。其他提案則獲得兩黨支持甚至業界認可，包括要求先進 AI 具備「終止開關」（kill switch）。但專家質疑試圖關閉所有 AI 系統的可行性。
在真正的危機中，華盛頓可以擱置黨派分歧。一名民主黨幕僚指出，在 COVID 期間和 2008 年金融危機期間曾出現過合作。
事件背景
情境規劃（Scenario Planning）是一種常見於企業和國家安全領域的策略過程，例如五角大廈已進行數十年的戰爭遊戲演練。OpenAI 發言人澄清，其準備演習旨在幫助應對各種情況，而非將特定情境視為必然。
社群觀察
社群討論中，用戶 'duluoz1' 指出這只是風險管理和情境規劃。用戶 'tassa-yoniso-manasi' 分享了一張圖片並評論說他們在一起面對此事。用戶 'socoolandawesome' 轉述了文章內容。用戶 'Last-Answer-7789' 認為 AI 是放大人類能力的技術，權力集中是最危險的，希望 AI 能成為淨正面力量。用戶 'MadeByTango' 批評 Axios 在付費牆後使用聳動標題，認為這損害了可信度。
