分析指出,Perplexity AI 僅從三個經過 SEO 優化的網站,生成了超過 215,000 個「最佳軟體」推薦頁面,形成了一個狹窄的資訊生態系。這種高度依賴導致來源重複,並增加了搜尋結果中出現 AI 幻覺的風險。研究確認,這些製造出來的來源被 Perplexity 大量引用,通常導致不同查詢產生相同或幾乎相同的推薦結果。

事件背景

LLM 幻覺是指 AI 模型生成看似事實但實際錯誤或具誤導性的資訊,這通常是由於訓練數據或檢索來源存在缺口所致。SEO 優化內容農場會建立專門設計用於在搜尋引擎中獲得高排名的頁面,這些頁面可能包含虛構的細節或重複的內容以最大化能見度。當 AI 搜尋工具高度依賴這些來源時,它們可能會傳播原始製造內容中發現的錯誤或偏見。

社群觀察

社群成員指出,LLM 一致偏好其自身生成的段落而非人類撰寫的內容,這在程式碼偏好測試中得到了證明。用戶還報告了 AI 虛構不存在地點(如「Foobar square」)的幻覺現象,並批評 Perplexity 為了優化回應速度而犧牲了結果品質。