技術部落格文章指出，透過修正 macOS Virtualization.framework 虛擬機器中的核心選擇機制，可使 Llama.cpp 的推論速度提升高達 16 倍。此優化針對虛擬機器錯誤識別可用 Metal 配置，進而強制使用較慢執行路徑的缺陷進行修復。效能提升源自虛擬機器正確暴露主機完整的 Metal 功能，而非受限的虛擬顯示卡配置。
與預設虛擬機器配置相比，速度提升幅度介於 11 倍至 16 倍之間，具體取決於特定的工作負載和模型大小。對於透過虛擬化在 Apple Silicon 上運行大型語言模型的開發者而言，此發現意義重大，因為它顯示軟體層級的設定調整可帶來與硬體升級相當的效能提升，並突顯了 macOS 虛擬機器中 GPU 直通實作對於 AI 工作負載的重要性。
事件背景
Apple 的 Virtualization.framework 提供高階 API，用於在 Apple Silicon 上建立 macOS 和 Linux 虛擬機器，並利用 Hypervisor 框架進行高效的 CPU 虛擬化。為了實現 GPU 加速，該框架透過 Metal 將實體 GPU 直通至客戶端作業系統，使 llama.cpp 等應用程式能夠利用統一記憶體架構。然而，早期版本的框架有時會向客戶端呈現受限或不正確的 Metal 配置，導致推論引擎選擇次優的計算核心。
社群觀察
社群成員指出，標題起初具有誤導性，因為速度提升僅適用於使用 Virtualization.framework 的虛擬機器，而非所有 Apple Silicon 環境。使用者感謝釐清效能提升來自於修正核心選擇的錯誤，而非框架的一般性更新，同時也有人質疑為何 Apple 預設會暴露較差的 Metal 配置。
