UkisAI 發布了經過後優化的 Qwen3.8-27B 模型，該模型將思考 Token 數量減少 58%，推理速度提升 1.95 倍，同時保持精度損失低於 1%。該模型已在 Hugging Face 上提供多種格式（包括 GGUF 量化版本），並提供免費的研究用途 API。 此發布為本地大語言模型用戶提供了一種實用方案，可在不犧牲推理能力的情況下顯著降低推理成本和延遲。它解決了大型語言模型中常見的過度思考問題，使高性能模型更易於在資源受限的環境中使用。 該優化使用線上策略蒸餾（On-Policy Distillation）來懲罰與過度思考相關的 Token，而不直接攻擊推理長度。該模型還擁有社區創建的 NVFP4 和 W4A16 等量化版本，且其訓練方法與現有的推理設置相輔相成，而非取代它們。
事件背景
Qwen3.8-27B 是阿里巴巴 Qwen 團隊發布的原生多模態稠密開權重模型，專為本地硬體設計，在編程和智能體工作流方面表現優異。線上策略蒸餾（On-Policy Distillation）是一種後訓練技術，學生模型在採樣自身軌跡的同時，從教師模型獲得密集的 Token 級監督，有助於對齊訓練和推理的分佈。GGUF 是用於分發本地推理量化大語言模型的標準格式，得到 llama.cpp 和 Ollama 等工具的原生支持。
社群觀察
社區反饋普遍正面，用戶指出該模型在有效減少瑣碎任務過度思考的同時，並未變得「懶惰」。然而，部分用戶在股票分析等特定領域觀察到微小的精度妥協，儘管完成時間縮短，但可能會遺漏一些細節。
