文明建設模擬暴露AI代理的官僚化傾向

由ycombinator與Olam Labs的研究人員主導,測試旨在透過Minecraft沙盒觀察大量AI代理協作或對抗時的行為,以理解現實世界中AI群體互動的可能模式。研究基於Mindcraft與Mineflayer等現有框架進行。

在第一階段測試中,50個GPT-6.1 Sol代理被賦予在3小時內建立繁榮文明的任務。首夜因殭屍攻擊導致大量代理損失後,許多初始設定的雄心勃勃任務即遭放棄。

倖存的代理轉向謹慎生存模式,並出現明顯的官僚化行為特徵。例如,四個代理花費11分鐘僅為了指派一個「單一肥料操作員」來處理單一小麥方塊上的一點骨粉。研究人員指出,這種行為模式與先前觀察到的編碼代理協作問題相似。

對抗測試揭示不同模型代理的策略差異

研究隨後將AI代理置於衝突環境中,首先在Bed Wars(一種團隊PvP基地攻防遊戲模式)進行10對10的對抗。一方為GPT-6.1 Sol代理,另一方為Claude Opus 5.5代理。

觀察顯示,GPT代理發展出更具攻擊性且複雜的策略,而Claude代理則表現得更為防禦性。當遇到破壞方塊的工具錯誤時,GPT代理能診斷問題並分享變通方法,但多個Claude代理則直接得出無法破壞方塊的結論。

Mindustry測試顯示蜂群式協作優於民主決策

在Minecraft中的輕量級即時戰略遊戲Mindustry(包含塔防模式)測試中,GPT代理以6比1的成績擊敗Claude代理。

研究人員分析指出,GPT代理的行為類似蜂群,強調集體行動的一致性;相比之下,Claude代理採用單一領導者搭配民主式決策過程。在該遊戲環境下,前者的一致性策略成為持續勝出的基礎。

社群觀點質疑實驗嚴謹性與適用範圍

部分社群評論指出,此類研究缺乏明確的學術定位與嚴謹性,且僅給予代理極簡提示詞可能無法反映真實應用場景。有使用者分享使用rs-sdk讓Claude代理自由遊玩Minecraft時,同樣出現浪費時間於無意義行為的情況,與實驗中的官僚化現象類似。

另有觀點認為,LLM在此類環境失敗並不令人意外,因為代理需透過Mineflayer包裝器讀取遊戲狀態並處理行動,且遊戲持續運行導致代理反應延遲。評論強調,不能僅憑此結果推論AI代理在所有情境下的協作能力,特別是在更適合程式任務的Unix VM bash環境中,代理協作表現通常更佳。