Remote Labor Index (RLI) 基準測試已更新,正式納入 Fable 與 Astra AI 模型在複雜遠距勞動任務上的評估結果。此次更新超越了單純的程式碼測試,評估了 AI 代理在具經濟價值專案中的端到端表現,涵蓋遊戲開發、產品設計及建築等專案。

測試專案成本超過 10,000 美元且完成時間逾 100 小時。人類專家會在模型嘗試從單一提示完成整個專案後,對 AI 的輸出結果進行評估。

數據顯示,雖然這些模型的表現有顯著提升,但在遊戲開發和數據分析等領域,仍需人工監督才能產出符合生產標準的成果。此次更新揭示了「生產力悖論」,即 AI 自動化為專業人士創造了更多工作,從而更深入地揭示了當前 AI 自動化的現狀。

事件背景

Remote Labor Index (RLI) 是一個旨在衡量 AI 代理執行真實世界具經濟價值遠距工作能力的基準測試。與測試單一技能的學術基準不同,RLI 使用了代表超過 6,000 小時真實工作且價值超過 140,000 美元的專案,以提供對自動化潛力的全面視角。

社群觀察

社群成員指出,雖然 Astra 等模型令人印象深刻,但它們仍需專家指導才能產出精細的產品,通常僅完成 90%。使用者也討論了「生產力悖論」,即 AI 為分析師創造了更多工作,並預測該基準測試可能在 2027 年中達到飽和。