vLLM v0.27.0 版本已發布，此次更新匯聚了 242 位貢獻者的 561 次提交。

在模型支援方面，此版本完整落地了 Kimi K3 與 Qwen3.5 模型的支援。

環境依賴方面，核心升級至 PyTorch 2.13.0，這是一項具破壞性的環境變更。

在硬體效能優化上，FlashAttention 4 在 SM100 上的整合進一步深化，新增 FP8 KV 快取支援。透過新的 JIT 暖機基礎設施，消除了首次請求時的編譯停頓。

事件背景

vLLM 是一個開源框架，用於大型語言模型的高吞吐量與記憶體高效能推論，最初由加州大學柏克萊分校開發。它利用 PagedAttention 技術來有效管理鍵值快取。FlashAttention 是一系列透過減少記憶體 I/O 瓶頸來最佳化注意力機制的演算法，其中第四版針對 NVIDIA 的 Blackwell 架構（SM100）進行了優化。