IBM 發布了 Granite 4.2 系列，這是其首款包含 3B、8B 和 30B 參數規模的密集解碼器推理語言模型，並採用了擴展的多階段強化學習機制。Hugging Face 部落格詳細介紹了相較於 Granite 4.0 基礎模型，這種新的訓練結構如何增強智能體能力與真實世界任務的表現。 對於關注開放權重模型的從業者而言，此發布具有重要意義，因為它展示了如何透過針對性的訓練方法來提升推理與智能體行為，而不僅僅依賴模型規模。它為建構能在複雜環境中思考與行動的高效企業級 LLM 提供了藍圖。 這些模型採用帶有 GQA、RoPE、SwiGLU MLP 和 RMSNorm 的密集解碼器轉換器架構，使用五階段策略在約 15 兆個 token 上進行訓練，其中包括長達 512K token 的長上下文訓練。訓練資料結合了公開資料集、內部合成資料以及人工篩選的內容。

事件背景

IBM Granite 是一系列專為商業應用設計的開放、可信 AI 模型，提供可自訂的語言、視覺和程式碼模型。從 Granite 4.0 到 4.2 的轉變標誌著向原生推理能力的過渡，使模型能更有效地執行規劃和工具使用等複雜智能體任務。這種演進建立在先前專注於基礎預訓練和高品質資料退火中期訓練的迭代之上。