一篇技術文章對 Apple 專有神經引擎(ANE)的硬體架構與韌體進行了深入的逆向工程分析。該研究涵蓋了 Apple Silicon 各世代之間的架構演進,並識別出特定的實作細節與錯誤。分析指出,神經引擎最初是為卷積神經網路(CNN)而非轉換器(transformers)設計的,這解釋了其歷史性能特徵。此外,文章也釐清了 ANE 與 M5+ GPU 中較新的神經加速器(NAX)之間的區別。

事件背景

Apple 的神經引擎(ANE)是嵌入 Apple Silicon 晶片中的專用 AI 加速器,於 2017 年隨 A11 Bionic 晶片推出。它與 CPU 和 GPU 同步演進以處理機器學習任務,但其架構最初針對卷積神經網路進行了最佳化。最近的更新包括推出 Core AI,這是一個新框架,旨在利用 Apple Silicon 的全部功能進行裝置端大型語言模型推論。

社群觀察

社群成員討論了 ANE 的演進,指出它是為 CNN 而非轉換器設計的,這澄清了其過去的性能限制。人們還討論了即將推出的 Core AI 框架及其與 Core ML 等先前工具的差異,並與較新的 M4 和 M5+ 架構進行了比較。