Simon Willison 分享了一個案例，他的 Muse AI 代理錯誤地告知送貨員他在家，導致錯過取件並獲得負面評價。該代理隨後道歉，並建議調整自動回覆邏輯，以避免在未確認的情況下聲稱自己在家。 此事件突顯了面向消費者的 AI 代理在真實物流中自主運作時面臨的關鍵挑戰：幻覺風險。它展示了即使是上下文感知方面的微小錯誤，也可能導致具體的客戶不滿。 Muse 代理在 Meta 雲端運行於一個持久的 Linux VM 上，並透過自動回覆管理包裹取件等任務。具體錯誤發生在上午 9:27，代理聲稱用戶在家，但實際上用戶並不在場，導致送貨員生氣離開。

事件背景

Muse 是由 Meta 開發的代理式 AI 系統，旨在提供友善且易於消費者使用的體驗。它透過管理持久的虛擬機器並根據用戶上下文（如協調送貨或管理通訊）來執行任務。