一位使用者分享了在四張 AMD Radeon AI PRO R9700 顯示卡上運行 Qwen3.8-Flash-Next 模型的初步測試結果。該模型採用 MXFP4 與 FP8 量化技術，達成單一流產生速度超過每秒 150 個 token 的卓越效能，並能維持多流並行的高併發能力。預填速率亦超過每秒 10,000 個 token。

事件背景

Qwen3.8-Flash-Next 是一個擁有 1250 億參數的稀疏混合專家（MoE）模型，被視為 Qwen4 架構的早期預覽版本。AMD Radeon AI PRO R9700 則是基於 RDNA 4 架構的工作站顯示卡，配備 32GB VRAM，適合高效處理大型模型權重。

社群觀察

社群成員對總 KV 快取容量及能支援的長上下文會話數量表示好奇。此外，有使用者建議將顯示卡功耗限制在 210 瓦特，以改善效率並降低噪音。