開發者已在 Laya 語言中整合 OpenVINO 支援，使 CPU 上的推理時間縮短至每題 40 毫秒。此實作據稱比標準 PyTorch 基準快 3.4 倍，透過利用 OpenVINO 針對 Intel 硬體深度學習工作負載的最佳化功能達成速度提升。該專案已公開 GitHub 儲存庫，並提供 Flappy Bird 示範以展示其功能。此最佳化展示了本地決策模型的顯著效能提升，使 Laya 在資源受限的環境中更具可行性，也突顯了利用專用工具包將開源 AI 模型最佳化以進行高效 CPU 部署的趨勢。

事件背景

Laya 是一個開源的 System 1 決策模型，專為類型化選擇、分數和機率設計，允許用戶在本地運行。OpenVINO 是由 Intel 開發的開源工具包，用於最佳化和部署各種工作負載的深度學習模型，包括電腦視覺和大語言模型。

社群觀察

社群成員對視覺輸入支援表示興趣，建議傳遞低解析度截圖可以增強 Flappy Bird 示範。此外，關於核心最佳化品質也存在爭議，部分人認為較新的 AI 模型現在能產生比原始 PyTorch 實作更好的核心。