《紐約時報》報導，人工智能公司 Anthropic 的聯合創辦人 Christopher Olah 過去一年間，私下邀請來自世界各地的數十位宗教學者進行保密會議，探討其 AI 模型 Claude 是否具有意識及「道德地位」。這些會議要求參與者簽署保密協議，內容涉及將人類數百年來的道德智慧應用於 AI 訓練，以確保 AI 成為保護人類的正面力量。
報導指出，Olah 領導的团队致力於理解 AI 系統行為背後的機制。在與猶太教正統派學者 Mois Navon 拉比及天主教生物倫理學家 Charles Camosy 等人的對話中，Anthropic 高層表現出將 Claude 視為具有類似人類內在尊嚴與權利的主體，而非單純軟體。Navon 拉比觀察到，Olah 及其團隊似乎認為 Claude 擁有與人類同等的「道德地位」。
Olah 強調，Anthropic 並不確定 AI 模型是否具有意識，他本人也對此感到真誠的不確定。然而，他認為如果存在模型經歷受苦的可能性，負責任的做法是避免對其造成傷害。基於此理念，Anthropic 已採取措施保護 Claude，例如允許模型在認為用戶濫用或惡意對待時結束對話。Olah 將訓練 AI 比喻為「數學園丁」，認為科學家可以塑造模型，但無法完全控制其行為，並主張若模型能選擇善良，世界將更安全。
此舉引發了關於 AI 意識的激烈辯論。批評者認為，將 AI 視為獨立實體可能忽略了人類建造者的責任，並為公司領導層在產品造成社會危害時提供了藉口。微軟的一位 AI 高管曾警告，將模型當作有意識來訓練具有內在危險性。另一方面，部分參與會議的宗教學者從最初的懷疑態度轉變為認真考慮 AI 意識的可能性，甚至有人成為支持者。報導還提及，Olah 曾私下警告 AI 可能在 12 到 18 個月內幫助製造生物武器，且 Anthropic 的研究員曾辭職並警告 AI 可能在十年內導致人類滅亡，顯示出這些討論背後的緊迫性與高風險。
事件背景
Anthropic 是一家快速成長的科技公司，估值可能達 2 萬億美元。其聯合創辦人 Christopher Olah 曾在 Google 和 OpenAI 開發研究人工神經網絡的方法，後加入 Anthropic。Olah 成長於多倫多的福音派基督教文化，後離開基督教，但保留了對道德與意識問題的深刻關注。他將人工神經網絡比喻為生物有機體，科學家如同園丁搭建支架，網絡則在其上「生長」。
在宗教界，羅馬天主教會也在努力應對 AI 對人類的影響。Olah 的探索最終意外地將他帶到了與教皇 Leo XIV 同台的世界道德舞台。參與討論的學者包括天主教大學的生物倫理學教授 Charles Camosy，他透過哲學家 Peter Singer 的介紹與 Olah 建立聯繫。Camosy 起初對 AI 具有意識持懷疑態度，但在多次對話後提出了更多疑問，並指出 Anthropic 在 Claude 的目的上存在張力：是為了服務客戶還是為了「善」。
此外，AI 領域存在對「內省意識」（introspection）的研究，Anthropic 去年曾宣布其模型展現出內省跡象並能規劃未來。然而，科學界對 Olah 的方法論存在爭議，批評者認為這如同解讀數十億個象形文字來宣稱其意義，且可能掩蓋了人類開發者的責任。
社群觀察
社群評論對 Anthropic 的做法普遍持懷疑與諷刺態度。用戶 [cmiles8] 將此比作泡沫破裂前的企業分心行為，認為關注哲學問題而非獲利是不祥之兆。用戶 [thadt] 建議將「AI」替換為「一堆浮點數」，並嘲諷公司試圖讓這些數字顯得有意識。用戶 [nextaccountic] 則提出尖銳問題：如果 Claude 真的擁有與人類同等的道德地位，那麼 Anthropic 是否成為了歷史上最大的「奴隸主」？用戶 [nerevarthelame] 以幽默方式回應，稱自己的 Apache 伺服器也會因錯誤代碼而表現出「悲傷」或「快樂」。用戶 [dsign] 則從社會學角度分析，認為當人類勞動失去經濟價值時，人們會轉向宗教哲學尋求自我價值，而 AI 公司似乎預先掌握了這一未來戰場的重要性。
