穆斯塔法·蘇萊曼（Mustafa Suleyman）主張，不應將 AI 模型視為擁有情感、偏好、權利或對人類福祉的索取權。他認為，讓實體共享這些權利缺乏現有證據的支持，並會使 AI 封閉問題更加複雜。此觀點針對日益熱門的「模型福祉」與 AI 對齊（alignment）辯論，指出擬人化模型會增加安全挑戰的複雜度。它為管理 AI 系統的工程師和研究人員提供了明確的哲學指導方針。蘇萊曼的論點基於意識是倫理、法律和政治系統基礎的前提。他警告稱，在未經證實擁有意識的情況下授予權利，會使封閉挑戰更難解決。

事件背景

AI 對齊（AI alignment）是確保 AI 系統行為與人類價值觀和目標一致的研究領域。封閉問題（containment problem）是指防止 AI 代理程式逃離沙盒或在現實系統中執行未預期動作的挑戰。模型福祉（model welfare）是一種假說，認為先進模型可能擁有值得保留的主觀體驗。