Reddit 討論區針對一篇論文提出的方法展開辯論,該方法主張透過停用貢獻於幻覺的神經元(H-Neurons),將 Qwen3.8-27B 等模型的幻覺率降至極低甚至零。此發現雖已存在一段時間,但因可能導致模型功能「切除」而尚未普及。討論焦點在於,若停用這些神經元,模型在 DeepSWE 等基準測試中的表現會如何,以及這是否會損害其生成新穎程式碼或創意文本的能力。
事件背景
H-Neurons 是前饋神經元中的一個稀疏子集,佔總數不到 0.1%,其激活模式可預測幻覺。大型語言模型的幻覺是指模型生成合理但錯誤的資訊,而 H-Neurons 是在這些錯誤期間持續激活的特定神經元。停用它們是一種事後干預方法,與 RLHF 等訓練時技術不同,旨在不重新訓練整個模型的情況下提高事實準確性。
社群觀察
社群成員認為幻覺是特性而非缺陷,將其與人類創造力及綜合未見文本的能力相提並論。部分觀點建議,與其停用神經元,不如讓模型檢測並自我糾正幻覺,從而在確保準確性的同時維持智慧。



