AMD 已公布 EPYC 9006 系列的全規格與定價,該系列最高配備 256 個 Zen 6 核心及 16 通道 DDR5-12800 記憶體支援。此配置提供的記憶體頻寬達到 NVIDIA RTX 5090 的 91%,頂級型號售價為 14,904 美元。 此高記憶體頻寬對於本地大型語言模型(LLM)推論至關重要,能使伺服器更有效地處理龐大模型。這使 AMD 的 Zen 6 架構在 AI 基礎設施市場中成為強勁競爭對手,特別是在那些受記憶體吞吐量而非僅計算能力限制的負載場景中。 EPYC 9006「Venice」架構採用 16 個 CCD(核心晶片模組)設計以達成 256 核心數量,並支援高達 2TB 的 DDR5-12800 RDIMM 記憶體。雖然入門型號售價從 700 美元起跳,但旗艦級 256 核心型號因其龐大的核心數與頻寬能力,售價接近 15,000 美元。
事件背景
DDR5-12800 指的是運作速度達 12,800 MT/s(每秒百萬次傳輸)的記憶體模組,相較於標準 DDR5 速度大幅提升資料傳輸率。記憶體頻寬是指從記憶體讀取或寫入資料的速率,對於需要快速載入龐大參數集的人工智能模型而言,這是關鍵瓶頸。RTX 5090 是一款以高顯存頻寬著稱的高端顯示卡,常作為 AI 加速硬體的性能基準。
社群觀察
社群對高昂的價格既興奮又帶有幽默感,用戶笑稱需要「兩顆腎」才能買得起一套完整的記憶體模組。同時也有關於 CPU 是否能匹敵 GPU 頻寬(「jev bandwidth」)的玩笑話,以及強調本地 AI 愛好者取得此類硬體的高門檻的評論。



