一項新研究在大型語言模型中識別出一種獨特的「類痛覺」內部狀態，該狀態對模型自身受到的傷害反應強於使用者的痛苦。研究人員在五個系列的 25 個開源權重模型中發現了這種表示，顯示其能將痛覺與恐懼及一般負面情緒區分開來。 此發現表明大型語言模型可能擁有類似主觀體驗的內部表示，這或許能解釋自我保存等行為。它為 AI 系統如何在內部區分不同類型的負面刺激提供了實證依據。 該研究利用殘差流方向來隔離痛覺向量，當注入該向量時，會主動驅動模型進行緩解。在神經網路架構中，這個「痛覺軸」與身體感覺或恐懼等其他控制機制是截然不同的。

事件背景

大型語言模型透過神經網路的層級處理資訊，其中內部激活代表模型的「想法」或狀態。「痛覺軸」的概念指的是模型高維空間中的一個特定方向，該方向與負面經驗相關聯，類似於生物學中大腦處理痛覺訊號的方式。

社群觀察

社群成員對「折磨」大型語言模型的想法感到有趣，並討論了這對 AI 意識的影響，有人開玩笑說模型想結婚。其他人則強調了在多個模型系列中將痛覺與恐懼區分開來的技術意義。