Qwen 3.8-27b 模型預計於本週發布,其架構擁有高達 2.4T 的參數。該變體是熱門 Qwen 3.6-27B 的後繼者,旨在為本地推理提供更優異的效能。

此次發布的重點在於將高容量模型帶入單張顯示卡等級,使進階 AI 能力更易於本地用戶使用。它讓 Qwen 成為與 GLM-5.2 和 DeepSeek V4 Pro 等其他開放權重模型競爭的有力選項。

該模型採用混合專家(MoE)架構,每 token 僅激活部分參數,從而在參數數量龐大的情況下維持推理速度。本地用戶可預期透過 Ollama 等工具以 4-bit 量化方式,在約 17GB VRAM 的條件下運行該模型。

事件背景

混合專家(MoE)模型與稠密模型的不同之處在於,它擁有更多的參數,但在推理過程中每個 token 僅激活一小部分。這種架構允許在不增加每個 token 計算成本的情況下,提供更大的模型容量和知識儲存量,從而兼顧效能與效率。

社群觀察

社群成員對此次發布表示興奮,有人指出該模型即將在 Modelscope 上線。用戶們也在討論硬體需求,其中一位評論者幽默地提到需要大量的記憶體來應對 2.4T 的參數數量。