SGLang 發布了 v0.5.19 版本，此次更新匯入了來自 214 位貢獻者的 786 個拉取請求。在模型支援方面，新增對 Qwen3.8 和 Ling-3.0 等新自回歸模型的支援，並納入 LongCat-Image-Edit 等擴散模型。

技術功能上，SGLang 正式引入束搜尋（Beam Search），用於擷取前 n 個最佳序列。此外，新增 LayerNorm 序列平行化功能，將預填延遲降低高達 5.6%。

硬體與效能優化涵蓋多平台：在 NVIDIA Hopper 架構上，支援 MXFP4 專家的 W4A8 量化，提升了混合專家模型的效能。部署指南亦更新，涵蓋 Ascend A3 和 MI355X 等多種硬體環境。

事件背景

SGLang 是由加州大學柏克萊分校開發、LMSYS 託管的開源高效能大型語言模型與多模態模型服務框架。它利用 RadixAttention 自動重複使用 KV 快取，大幅減少推論過程中的冗餘計算。自回歸模型根據前一個詞元預測下一個詞元來生成文本，而混合專家（MoE）模型則在每個詞元僅激活部分參數，以提升運算效率。