Reddit 社群指出，AI 在駭客攻擊中表現優異，是因為其能進行高頻率重試，只需一次成功即可達成目標；相較之下，白領工作要求持續的精確度與高度的信任感。這種差異突顯了安全任務中「機率性成功」與專業工作流程中「確定性可靠性」之間的巨大落差。目前大型語言模型（LLM）面臨幻覺、上下文衰退等技術局限，這些因素成為阻礙其在複雜角色中取代人類判斷的關鍵障礙。此外，「不規則智慧」（jagged intelligence）概念指出，AI 在特定領域可能表現優異，但在其他領域卻容易失敗，影響長期一致性。錯誤容忍度的不對稱性意味著，罪犯可透過少數成功獲利，而員工則必須維持近乎完美的可靠性，這解釋了為何 AI 在企業自動化方面面臨比網路安全領域更高的門檻。
事件背景
大型語言模型（LLM）是基於機率而非確定性邏輯來生成文本的系統。「不規則智慧」指的是 AI 在某些任務上表現卓越，但在其他任務上卻表現不佳，違背了線性擴展的預期。在網路安全領域，代理程式可以重試攻擊數千次，而在白領工作中，單一錯誤就可能破壞信任。
社群觀察
社群成員一致認為，核心問題在於罪犯與員工之間錯誤容忍度的不對稱。評論者強調了大型語言模型的具体局限性，如幻覺、上下文衰退，以及在專業環境中因單一重大失誤而無法維持信任的能力不足。
