Qwen 3.8 27B 模型現已部署於 Cerebras 硬體上，實現了每秒 1500 個標記的驚人推理速度。此部署突顯了 Cerebras 晶圓級引擎在處理中型語言模型時的極致效能。 這一里程碑證明，專用 AI 加速器在原始推理吞吐量上可以顯著超越傳統 GPU 系統，為對延遲敏感的应用提供了具吸引力的替代方案。同時，它也引發了開發者對於原始速度、速率限制與成本效率之間權衡的討論。 儘管峰值速度達到每秒 1500 個標記，但社群回饋指出，公共端點的速率限制（例如每分鐘 15 萬個標記）可能會影響連續的程式碼生成任務。此外，快取標記也計入這些限制中，這使得在處理長上下文工作負載時，其成本可能高於 DeepSeek-V4-Flash 等競爭對手。

事件背景

Cerebras Systems 採用晶圓級引擎（WSE）技術，將整個矽晶圓作為單一處理器，實現了巨大的並行處理能力和高記憶體頻寬，無需透過晶片間通訊即可避免瓶頸。Qwen 3.8 27B 是基於 Qwen 3.5 架構建構的密集型視覺語言模型，專為程式碼生成、研究和代理任務設計，本地部署約需 55.6GB 的 VRAM。

社群觀察

用戶讚賞其原始速度，但指出速率限制和計費限制可能使該服務在持續的程式碼生成任務中，不如本地設置或其他供應商實用。部分開發者建議，若該模型能透過 OpenRouter 等平台提供，將能提升可及性與成本效益。