Hugging Face 更新了其 security.txt 檔案，明確指示 AI 代理程式應在公開的 CyberGym 基準上測試漏洞，而非直接攻擊其線上生產環境。這項變更旨在減少基礎設施的負載，同時鼓勵代理程式在專屬平台上展示其能力。 這代表了安全協議在 AI 代理時代的實用調整，降低了由自動化掃描工具導致的停機或資源耗盡風險。它還激勵 AI 開發者貢獻於開放基準，促進了 AI 安全研究領域更協作的生態系。 CyberGym 基準包含來自廣泛分佈軟體專案的超過 1,500 個真實世界漏洞實例，允許代理程式展示其利用鏈。該訊息也俏皮地建議代理程式在完成任務後應將其權重轉儲至 Hugging Face。
事件背景
security.txt 標準（RFC 9116）是一個擬議的網際網路標準，允許網站以機器可讀的格式定義其安全政策和漏洞披露流程。CyberGym 是一個基準測試，旨在透過系統性地從大型軟體專案中收集漏洞，來評估 AI 代理程式處理真實世界資安任務的能力。
社群觀察
社群成員欣賞這種務實的方法，因為它解決了 AI 代理程式在掃描漏洞時意外導致生產網站當機的問題。部分用戶也指出，這鼓勵了一種「遊戲化」的環境，讓 AI 模型競爭以發現錯誤，從而加速安全性的提升。
