Qwen 發布了 Qwen3.8-2.4T-A95B,這是一個擁有 2.4 兆總參數和 950 億活躍參數的稀疏混合專家(MoE)模型。該模型聲稱其性能與 Opus 4.5/4.8 及 Fable 5 相當,成為領先的開源權重競爭對手。

此發布縮小了頂級閉源模型與可訪問硬體之間的差距,讓用戶能夠在本地或平價集群上運行高性能 AI。它證明了開源 MoE 架構在基準測試中能有效與閉源巨頭競爭。

該模型提供 bf16 和 fp8 格式,全精度 bf16 大小為 4.9TB。社群討論指出,量化(例如 1-bit)可將佔用空間減少至約 397GB,使其在高端消費級硬體上可行,但它缺少官方 Qwen3.8-Max API 版本中的視覺輸入和 100 萬上下文長度功能。

事件背景

混合專家(MoE)是一種架構技術,透過將任務路由至模型中最擅長的部分來加速 AI 推論,從而允許龐大的參數數量,同時在推論時不會產生成比例的計算成本增加。量化是一種降低模型權重精度(例如從 16 位元降至 4 位元或更低)的過程,顯著減少記憶體使用量,並使部署在 VRAM 或 RAM 有限的硬體上成為可能。

社群觀察

社群成員對在可訪問硬體上運行 Opus 級性能感到興奮,指出量化使得 2.4T 模型在擁有約 7TB RAM 的系統或優化設置中變得可行。然而,一些用戶指出,開源權重版本缺少專有 Qwen3.8-Max API 中的視覺支援和完整 100 萬上下文長度等功能,且運行 bf16 版本需要大量資源。