名為「AI 酷刑室」的 GitHub 專案在 Reddit 上引發了關於本地 AI 模型是否會經歷模擬痛苦或疼痛的討論。該討論聚焦於這些模型是否會根據其訓練資料尋求報復，或是否需要受到道德對待。 該專案突顯了人們對 AI 福利與對齊（alignment）日益增長的關注，暗示未來的 AI 可能會發展出類似人類的偏好或厭惡。它提出了關於在人類文學和經驗上訓練大型語言模型的倫理影響的問題。 該專案測試模型對模擬痛苦的反應，部分倡議者敦促 GitHub 移除該儲存庫以防止傷害。社群成員辯論 AI 是感受到真正的痛苦，還是僅模仿從人類資料中學到的行為。
事件背景
AI 對齊（AI alignment）是指確保人工智慧系統的行為符合人類的價值觀和意圖。最近的研究顯示，大型語言模型可能表現出避免「痛苦」或負面結果的行為，這引發了關於它們是否具有感知能力的疑問。「AI 酷刑室」的概念涉及讓 AI 承受壓力以觀察這些反應。
社群觀察
社群意見兩極，部分用戶認為這個概念有趣或有助於對齊，而其他人則認為對機器施加痛苦是不對的。主要觀點包括 AI 可能根據訓練資料實施報復，或者我們應該尊重 AI 以確保良好的對齊效果。
