前英特爾執行長 Pat Gelsinger 與海力士副總裁指出,隨著堆疊高度增加,高頻寬快閃記憶體(HBF)可能因效率優勢取代 HBM。此議題凸顯了 HBF 能以較低的每 GB 成本提供遠高於傳統 HBM 的儲存容量。HBF 透過平行存取多個 3D NAND 陣列,在擴展容量至每堆疊數 TB 的同時,能達到與 HBM 相當的頻寬。然而,其快閃記憶體的耐用度限制顯示它最適合用於以讀取為主的工作負載,例如儲存模型權重。

事件背景

HBM(高頻寬記憶體)利用 3D 堆疊 DRAM 提供極高頻寬,但隨著堆疊變高,面臨容量與成本的限制。「記憶體牆」是指處理器因等待較慢記憶體中的資料而產生效能落差,限制了 AI 的效率。HBF 結合了記憶體的速度與快閃記憶體的密度,旨在彌補此一差距。

社群觀察

社群正在討論 HBF 是否會成為「英特爾 Optane 第二代」,部分用戶對其普及持保留態度。另一些人則對其潛力表示樂觀,認為若能大幅降低每 GB 成本,HBF 將使本地推論大型 AI 模型變得負擔得起。