測試任務與環境設定

此次測試旨在回應先前關於不同工具鏈(harness)與努力等級比較不公平的質疑,因此採用更嚴格的對照組。所有運行均針對同一個真實功能:在 LlamaStash 專案中,於模型卸載前儲存 llama-server 的 KV cache,並在模型重新載入時還原。

測試涵蓋六種組合,每種組合執行兩次,共產生 12 個 Pull Request(PR)。Qwen3.8-Flash-Next 在本地 Strix Halo 筆記型電腦(Flow Z13)上透過 Halogen 運行,使用約 Q4 量化版本。Claude Opus 5.5、Flash-Next 與 Kimi K3 則作為評審模型,對每個 PR 進行七項審查問題評分及 CI 檢查。

程式碼品質與得分差異

根據平均兩次運行的結果,Claude Code 搭配 Opus 5.5(xhigh 努力等級)獲得最高分 6.94/8(87%),其次是 Claude Code 搭配 Opus 5.5(medium 努力等級)的 6.25/8(78%)。

使用 Flash-Next 的組合得分較低:Claude Code 搭配 Flash-Next(medium)為 5.5/8(69%),Pi 搭配 Flash-Next(xhigh)為 5.44/8(68%),Claude Code 搭配 Flash-Next(xhigh)為 5.38/8(67%),Pi 搭配 Flash-Next(medium)為 5.06/8(63%)。

Opus 生成的程式碼在邊界情況處理、單元測試撰寫與文件完整性上明顯優於 Flash-Next。然而,所有模型生成的核心功能均能正常運作,且全部 12 個 PR 都通過了端到端測試。

執行時間與成本分析

在相同努力等級下,Flash-Next 的執行時間為 Opus 的 1.1 至 2.1 倍。例如,Claude Code + Opus 5.5 (medium) 耗時 23.4 分鐘,而 Claude Code + Flash-Next (medium) 則需 45.3 分鐘。

成本方面,Opus 5.5 的 API 費用從 6.52 美元(medium)到 17.78 美元(xhigh)不等。Flash-Next 因在本地運行,實際成本僅為電力;若按 QwenCloud 價格計算,其虛擬成本極低(0.32 至 0.67 美元)。

對於 Opus,提高努力等級從 medium 到 xhigh 使得分小幅提升,但成本增加 2.7 倍。相反地,Flash-Next 在 medium 與 xhigh 之間的得分差異不大,且 medium 在所有對比中均更快完成任務。

工具鏈影響與 CI 通過率

測試比較了兩種代理框架:Claude Code 與 Pi。結果顯示,當使用 Flash-Next 時,兩者在審查問題上的得分幾乎相同,表明模型本身的表現差異大於工具鏈的影響。

然而,在持續整合(CI)通過率上出現顯著差異:所有四個由 Claude Code 生成的 PR 均通過 CI,而 Pi 生成的四個 PR 中僅有一個通過。