Qwen 發布了 Qwen3.8-Flash-Next,這是一個擁有 1250 億總參數但僅 60 億活躍參數的多模態混合專家(MoE)模型,作為即將推出的 Qwen4 的架構預覽。該模型採用稀疏激活機制,每個 token 僅使用 1250 億參數中的 60 億個,顯著降低了計算開銷。該模型已使用 Unsloth 量化技術在消費級 NVIDIA DGX Spark 硬體上成功測試。用戶已測試多種 Unsloth GGUF 量化版本(如 UD-IQ1_S 和 UD-Q2_K_XL),並在 DGX Spark 上實現了令人印象深刻的視覺生成效果。

事件背景

混合專家(MoE)是一種架構技術,大型模型由多個較小的子模型或「專家」組成。在推理過程中,門控機制會為特定輸入選擇最相關的專家,使模型能夠擴展容量而不成比例地增加計算成本。Unsloth 是一個優化訓練和推理的函式庫,而 GGUF 是一種支援量化的檔案格式,使模型能夠在 CPU 或低階 GPU 上運行。

社群觀察

Hacker News 社群對該模型在消費級硬體上的表現表示興趣,用戶分享了在 DGX Spark 上使用 Unsloth 量化的經驗。討論中強調了生成圖像的驚人品質以及在大桌面設置上運行大型 MoE 模型的潛力。