Reddit 用戶分享測試經驗，指出在嘗試一款被稱為「奇蹟引擎」（miracle engine）的新推理引擎時，使用 IQ3_S 量化模型進行長文本生成會導致輸出退化為重複迴圈。該用戶要求模型評估關於「Kimi K2 和 GPT OSS 120b 過時，哪款現代開放權重模型諂媚度最低」的問題，結果模型在思考鏈（thinking trace）中產生大量無意義的重複內容，最終退化為類似「Need maybe maybe include...」的循環輸出。然而，同一個模型在 llama.cpp 中則能產生連貫且無此問題的回答。

事件背景

根據社群討論，此問題可能源於推理引擎的預設取樣配置差異。有用戶指出，該新引擎（被推測為 Strata）在請求未包含取樣參數時，預設使用貪婪解碼（temperature 0），這與 llama.cpp 會讀取 GGUF 模型檔案內嵌的取樣器設定不同。另有用戶認為問題在於預設溫度設為 0.6 而非 1.0，並建議在模型 JSON 檔案中手動添加溫度、top_p、top_k 等取樣參數以解決問題。

社群觀察

多位用戶證實了類似經驗。用戶 panamory 表示在 llama.cpp 中運行 IQ3_S 沒有問題，但在該新引擎中遇到了輸出僅為感嘆號的循環。用戶 MasterNomie 指出這是因為模型 JSON 檔案缺少取樣配置，預設為貪婪解碼導致無限重複，並提供了具體的 JSON 參數設定建議（如 temperature: 0.6, top_p: 0.9 等）。用戶 bluekingmuch 解釋該引擎在缺少參數時會強制使用 greedy decoding，而 llama.cpp 則會回退到模型內嵌設定。用戶 jwpbe 則認為問題在於預設溫度過低，建議調整溫度或向開發者提交 GitHub issue。