MacStories 發表了關於 M5 Ultra Mac Studio 的詳細評測,指出該設備在運行本地 AI 代理時展現卓越效能。評測重點比較了 M5 Ultra 與 NVIDIA RTX 5090 在 Qwen3.8 模型上的令牌生成速度。數據顯示,M5 Ultra 在處理長上下文提示時,其持續生成速度顯著優於 M3 Ultra,並與 RTX 5090 表現旗鼓相當。硬體方面,M5 Ultra 採用 UltraFusion 四晶片架構,將兩個雙晶片 M5 Max 連接,晶片間頻寬超過 4.4TB/s,為高負載 AI 任務提供強大支援。
事件背景
本地 AI 推論是指直接在裝置硬體上運行大型語言模型,而非將資料傳送至雲端伺服器。Apple 的神經引擎(Neural Engine)是一種專用的固定功能加速器,旨在以低功耗高效處理張量,非常適合用於裝置端的 AI 任務。
社群觀察
社群討論聚焦於成本效益與硬體選擇。有觀點認為記憶體頻寬是決定生成速度的關鍵,建議購買二手 M 系列 Ultra 晶片以獲得最高投資報酬率。另有討論將 M5 Ultra 的成本效益與 OpenAI 訂閱及 NVIDIA DGX 系統進行比較,並指出其在長上下文性能方面的優勢。



