社群感謝貼文指出,Qwen 3.8 Next Flash 憑藉卓越的提示遵循能力和代理式程式設計表現,大幅改善了本地愛好者的工作流。用戶報告稱在生成數百萬個 token 的過程中保持高度一致性,即使在複雜任務中也很少偏離指令。該模型採用 125B 參數的主架構,每個 token 僅激活 6B 參數,並輔以 N-gram 嵌入。特定硬體配置的用戶報告了高達 1300t/s 的預填充速度和 200-250 t/s 的解碼速度,驗證了其在本地部署的效率。

事件背景

代理式 AI 指的是 LLM 作為自主代理,能夠規劃、執行工具並在最少人類干預下對任務進行迭代。上下文窗口壓縮是一種用於管理長對話的技術,通過總結較早的消息來釋放模型上下文窗口中的空間。Qwen 3.8 Next Flash 是預期將在下個 Qwen4 版本中發布的架構的實驗性預覽。

社群觀察

社群成員表現出強烈的熱情,由於其在 Strix Halo 盒子等利基硬體上的高智慧和效率,稱該模型為「救星」。用戶分享了在 RTX Pro 6000 設置上的驚人基準測試結果,並猜測最終的 Qwen4 版本將保留這種高效的架構。