開發者「Jev」發布了名為「Laya」的 421M 參數非自回歸模型，該模型基於 ModernBERT 架構，在 JevBench 數據集上達到了最優表現。Laya 結合了雙向 ModernBERT-large 編碼器與自創 Transformer 頭部，能在單次前向傳遞中解析類型化模式，僅需約 35 毫秒即可完成推理。模型採用 RLCD（一種策略梯度強化學習方法）進行訓練，訓練數據來自超過 25,000 個真人標註的真實世界範例，且未使用合成數據捷徑。此發布突顯了非自回歸架構在特定垂直基準測試中與自回歸大型語言模型競爭的潛力，同時提供顯著更低的延遲，為需要快速且校準概率輸出的應用（如意圖路由和內容審核）提供了一個實用的輕量級替代方案。

事件背景

非自回歸模型會同時生成所有輸出詞元，而非像傳統自回歸大型語言模型那樣依序生成，這大幅降低了推理延遲。ModernBERT 是 BERT 架構的現代化版本，透過旋轉位置嵌入和去除填充等技術進行了效率優化並支援更長的上下文視窗。JevBench 數據集專注於評估模型在事實查核和提示詞防護等真實世界決策任務上的表現。

社群觀察

社群對其低延遲和小模型尺寸表示熱情，有使用者建議進行 ONNX 轉換以整合至代理程式框架。另一位評論者幽默地指出缺少玩 Doom 的影片，而其他使用者則讚賞這項工作對其職業發展的潛在影響。