新的 Gemma 模型已加入 Arena AI 排行榜,引發了關於其效能與效率的討論。使用者指出,目前的架構在 KV 快取上消耗大量 VRAM,且量化效果可能不佳。社群特別關注 KV 快取效率的潛在改進以及代理(agentic)能力的提升,並提出了對更好的工具呼叫、修正迴圈問題以及支援統一音訊/視訊架構的功能需求。
事件背景
Arena AI 是一個讓使用者與匿名模型對話並投票選出較佳回應的平台,從而建立基於人類偏好的眾包排行榜。Gemma 是由 Google DeepMind 開發的一系列輕量級開放模型,採用與 Gemini 模型相似的技術。
社群觀察
社群情緒整體正面,使用者對 Gemma 系列表現出興奮與忠誠。主要關注點在於 KV 快取使用導致的 VRAM 效率問題,同時對未來的代理功能與多模態改進充滿期待。



