開源模型 Mica v0.1 4B 在真實的 Minecraft 1.20.4 伺服器中,透過對數機率(logit probabilities)選擇指令,成功打造了一把鐵製鍬,且全程未生成任何文字 Token。該模型使用基於候選指令校準機率的貪婪採樣策略,運行於 llama.cpp 並採用 Q5_K_M 量化技術。它透過 Mineflayer 機器人整合 Mindcraft 的技能庫,在遊戲中執行挖掘、製作和熔煉等動作。這種無 Token 的推論方式讓模型在 RTX 3090 顯示卡上,每步決策僅需約 90 至 150 毫秒。

事件背景

大型語言模型(LLM)通常透過一次預測一個 Token 來生成文字,這對於即時應用來說可能較慢。對數機率(Logits)是轉換為機率前的原始輸出分數,選擇最高機率的 Token 允許進行確定性且無 Token 的決策。這種方法對於需要輸出離散動作而非連續文字的代理程式特別有用。

社群觀察

社群成員對貪婪採樣方法表現出技術上的好奇,指出選擇機率最高的指令本質上就是貪婪採樣的 Token。用戶們也對其商業潛力充滿興趣,預測將此技術編碼進遊戲原生 NPC 將帶來豐厚利潤。