一位 Reddit 使用者分享其在單張 RTX 5090 顯卡上，使用 Strata 分支引擎（strata-nvfp4）運行 Qwen3.8-Flash-Next 125B-A6B 混合 MoE 模型進行「Horsey Challenge」的測試結果。該測試旨在生成一個低多邊形 3D 馬匹奔跑的 Three.js 動畫。使用者指出，首次嘗試因模型開啟過多無頭瀏覽器視窗導致系統卡頓，使用者在約 45 分鐘時終止了該測試。第二次嘗試時，使用者修改了提示詞，加入了要求模型在不需要時終止無頭 Chrome 進程的指令，並表示第二次運行速度明顯更快且結果表現良好。
測試硬體配置為 RTX 5090 32GB、Ryzen 7 9800X3D 及 192GB DDR5 記憶體。模型權重採用 NVFP4 量化（專家權重為 4.5-bit，密集層為 Q8_0），並結合 int8 KV 快取與 bf16 嵌入層。系統採用分層記憶體策略，將 63 GiB 的專家權重固定於 RAM，熱點專家快取於 VRAM，未命中部分則透過 CPU 與 PCIe 重疊計算處理。
根據使用者提供的數據，從發送訊息到收到最後回覆的總牆鐘時間為 33 分 45 秒，扣除 10 分 35 秒的人工批准延遲後，純代理工作時間為 23 分 10 秒。過程中共執行 87 個步驟，產生 124,443 個輸出 token。在快取方面，讀取 token 數達 9,340,144，命中率為 99.0%。解碼速度中位數為每秒 116 個 token，峰值為 171 個 token；預填充速度平均為每秒 3,332 個 token，峰值為 6,623 個 token。整個過程未觸發上下文壓縮機制，因為總 token 數未超過設定的 220,144 壓縮閾值。
事件背景
Strata 是一個由 Niko1221 開發的推理引擎，本次測試使用的是由 sergqwer 維護的 strata-nvfp4 分支。Qwen3.8-Flash-Next 125B-A6B 是一個混合 MoE 架構的模型，使用者使用的是經過 abliterated 處理並自行轉換為 NVFP4 格式的檢查點。Horsey Challenge 在此情境下指涉生成低多邊形 3D 馬匹奔跑 Three.js 動畫的任務。
