Meta 正式推出 Muse，這是一款專為大眾用戶設計的個人 AI 代理。Muse 能夠代表用戶瀏覽網頁、填寫表單、發送電子郵件及進行購買，不僅僅是回應提示，而是執行具體任務。
在安全性方面，Muse 具備強大的多層提示注入防禦機制。它結合模型訓練、封套標記、確定性程式碼檢查以及分類器集成，確保在處理來自不受信任來源的資料時的安全性。
此次發布代表 Meta 策略的重大轉變，旨在透過將代理功能整合至 WhatsApp 等熟悉介面中，吸引一般 AI 用戶。該代理設計為能在 Meta 生態系統（包括 Muse 應用程式和 WhatsApp）中無縫運作，突顯業界對實用性和安全性的關注，從單純的聊天機器人邁向能夠執行複雜長期任務的自主代理。
事件背景
提示注入是一種安全漏洞，駭客透過輸入偽裝成合法使用者提示的惡意內容來操縱生成式 AI 系統。隨著 AI 代理變得更加自主並整合至日常工作流程中，保護它們免受這些攻擊對於防止意外動作或資料外洩至關重要。Meta 的方法涉及分層防禦，以有效處理受信任與不受信任的輸入。
社群觀察
社群反應兩極，有人讚賞 Meta 針對一般用戶的策略，也有人擔心將過多個人資訊託付給該平台。批評者質疑此類代理的實際效用，指出它們可能增加複雜性而非簡化任務，並強調將更多生活資料輸入 Meta 所帶來的安全風險。
