OpenAI 推出了 Ultrafast 模式，這是一種新的 API 服務層級，利用 Cerebras 硬體將 GPT-5.6 Sol 的運行速度提升高達 14 倍。此模式可提供高達每秒 750 個 token 的輸出速度，大幅降低開發者的延遲時間。

對於需要低延遲推論的應用程式（如即時聊天機器人與代理工作流）而言，此升級透過利用 Cerebras 的高記憶體頻寬架構具有重要意義。效能提升主要來自 Cerebras 的晶圓級引擎（WSE-3），其提供龐大的晶片內 SRAM 和記憶體頻寬，以克服大型語言模型推論的記憶體限制。

這展示了如何透過專用硬體合作夥伴關係來加速大型語言模型的採用，而無需進行根本性的模型架構變更。GPT-5.6 Sol 仍是 GPT-5.6 系列中的旗艦模型，針對複雜推理和編碼任務進行了最佳化。

事件背景

大型語言模型的推論通常受記憶體頻寬限制而非運算能力限制，這意味著 token 的生成速度高度取決於資料從記憶體移動到處理器的速度。Cerebras 透過其晶圓級引擎解決了這個問題，這是一顆包含數兆個電晶體和 900,000 個 AI 最佳化核心的單一晶片，與傳統 GPU 相比提供了前所未有的記憶體頻寬。

GPT-5.6 Sol 是 GPT-5.6 模型家族中的頂級變體，專為編碼和代理工作流等高效能任務設計。