Z.ai 推出的 GLM 5.3 模型顯示,經過增強的後訓練管道能顯著提升模型的代理式(agentic)與長上下文處理能力,使其表現可與其他前沿模型相提並論。分析指出,改進後的強化學習與蒸餾策略,其成效超越了僅依賴預訓練所能達到的水準。

GLM 5.3 作為一個實驗性的擴容案例,證明了即使參數量相對較少,透過優異的後訓練優化仍能實現高性價比。該模型展現了新興的網路能力,並在長程程式碼任務上表現良好。此發現挑戰了「中國實驗室主要依賴蒸餾西方模型」的觀點,證明獨立的架構與訓練創新足以推動具競爭力的表現,並強調了後訓練在最大化大型語言模型潛力中的關鍵作用。

事件背景

神經擴展定律描述了模型效能如何隨著參數量、數據量和計算資源的增加而提升。後訓練是指初始預訓練之後的階段,在此階段會使用來自人類反饋的強化學習(RLHF)和蒸餾等技術,以微調模型的行為、推理能力及其與人類意圖的一致性。

社群觀察

社群成員指出,GLM 5.3 驗證了改進後訓練管道的有效性,這與對 Qwen 3.8 的觀察結果相似。討論強調這些進展證明了中國實驗室並非僅蒸餾西方模型,同時人們也對小型且經過良好優化的模型之高性價比表示樂觀。