測試設定：三種量化模型與兩種溫度參數的交叉比對

測試者 Dreeew84 為了驗證先前社群關於高量化與低量化模型表現差異的討論，設計了包含 12 個任務的實驗。他在自己的硬體環境中運行了三種 Qwen Flash Next 模型版本：q3_xxs、q3_s 以及 q4_xs。

針對每個模型，測試者分別設定了兩種溫度參數組合。第一組採用建議的採樣參數（temperature 1, top_k 20, top_p 0.95 等）；第二組則將 temperature 設為 0，並移除其他隨機性相關的採樣參數。

每個模型與溫度參數的組合均執行三次測試。任務內容是在瀏覽器中開發一個具有特定遊戲玩法、設定與視覺效果要求的俄羅斯方塊（Tetris）遊戲。品質評估標準為實際交付功能與原始需求清單的符合程度。

量化等級對 Token 生成量與任務時間的影響

測試結果顯示，所有量化版本的模型都能完成任務並達到可接受的品質水準，沒有出現完全失敗的情況。然而，較低量化版本的模型（如 q3_xxs）表現出較低的自我信任度，導致它們生成遠多於較高量化版本的 Token 數量。

這些額外的 Token 主要來自於冗長的思考過程、額外的工具呼叫、重複測試以及諸如「actually」這類修正性語句。隨著量化等級提升（從 q3_xxs 到 q4_xs），每個任務的總解碼 Token 數（Ktok total decode）呈現一致性的下降趨勢。

雖然較低量化模型在硬體上通常能提供更高的每秒解碼速度（TPS），但這種速度優勢無法抵消其因生成大量額外內容而導致的整體任務時間增加。測試者指出，當計入重複測試、Playwright 自動化操作等環節時，高量化模型的總任務耗時反而更短。

溫度參數設為零的變異性與潛在風險

將溫度參數設為 0 的測試組別顯示出較低的任務大小與時間變異性。這與理論預期相符，即低溫度設定會使模型輸出更加確定且一致。

初步觀察顯示，溫度設為 0 可能帶來輕微的任務時間減少與更好的一致性，且在此簡單任務中未觀察到品質下降。然而，測試者明確指出樣本數量過少，不足以從統計上得出確切結論。

測試者推測，在更複雜的任務場景中，溫度設為 0 可能會開始表現不佳，因為缺乏隨機性可能限制模型探索不同解決方案的能力。他計劃未來進行更多專注於溫度參數的決定性與技術性測試，以驗證或推翻先前社群文章的發現。

實務建議：優先考慮任務完成時間而非解碼速度

基於此次測試結果，測試者提出的核心結論是：使用者應在硬體允許的範圍內運行最高量化版本的模型。在此前提下，應忽略單純的每秒解碼速度指標，轉而關注實際任務完成的總時間。

測試者個人目前選擇使用 q3_s 版本，因為這是他在 Windows 系統上無需依賴 SSD 快取即可運行的最高量化版本。他補充說明，若改用無頭模式的 Linux 推理伺服器，最佳選擇可能會有所不同。

關於品質方面，測試者僅基於軼事證據指出，較高量化版本並未帶來明顯的品質提升，但也沒有出現品質下降的情況，儘管它們執行的測試次數較少。這表明在該特定任務中，量化等級對最終功能正確性的影響可能不如對效率的影響顯著。