Framework 正式宣布推出搭載高達 192GB RAM 的新款筆記型電腦配置,其主機板預估價格約為 4,500 美元。此更新擴大了其模組化筆記型電腦的上限記憶體容量,旨在滿足需要大量本地資源的使用者需求。

這項發布對本地 LLM 社群具有重要意義,因為它允許在單一裝置上運行超大型模型(例如 284B 參數)。然而,其可行性在很大程度上取決於記憶體頻寬是否能與 Apple Silicon 等競爭對手相比擬,以跟上容量增加的步伐。

該配置採用 DDR5 記憶體,但社群討論指出其頻寬僅相當於 RTX 3050 顯示卡(224GB/s),這可能會限制推論速度。此外,後方的 PCIe 插槽可能支援高達 75W 的供電,從而實現外部顯示卡的擴展。

事件背景

本地 LLM 推論需要大量的 RAM 來載入大型模型權重,但速度由記憶體頻寬決定。雖然 Apple 的統一記憶體架構提供高頻寬,但 PC 平台上的標準 DDR5 相對於容量而言頻寬較低,因此在模型大小與推論速度之間存在取捨。

社群觀察

社群反應兩極,用戶肯定高容量的價值,但也擔心低記憶體頻寬會限制推論速度。有人將其與 Apple Silicon 的頻寬優勢相比較並認為稍遜一籌,也有人認為這是下一代架構到來前的必要一步。