阿里自研的 5 奈米 RISC-V XuanTie C950 CPU 成功以每秒 30 個記號的速度，原生運行 Qwen-3.8 27B 大型語言模型。這項成就證明了邊緣 AI 硬體具備處理複雜推論任務的能力，且無需依賴專用 GPU。

XuanTie C950 是一款基於 RVA23 架構的 64 位元多核心 CPU，時脈高達 3.2 GHz，並創下了新的單核心 SPECint2006 紀錄。此里程碑突顯了 AI 產業透過垂直整合降低成本潛力，並減少對昂貴圖形處理單元的依賴。

這標誌著將大型模型部署於通用處理器的重大轉變，有望降低邊緣 AI 應用的門檻。每秒 30 個記號的性能可能反映的是量化模型的解碼速度，因為記憶體頻寬是 RISC-V 架構在推論時的關鍵限制。

事件背景

RISC-V 是一種開放標準指令集架構，允許客製化的處理器設計，因此在邊緣運算和 AI 工作負載中越來越受歡迎。Qwen-3.8 27B 模型是一個具有視覺塔樓的密集混合注意力模型，需要大量的記憶體資源，4 位元量化後約需 14 至 16 GB。在 CPU 而非 GPU 上運行如此龐大的模型，展示了先進的軟體優化與硬體效率。

社群觀察

社群成員正在討論每秒 30 個記號速度的實際影響，並質疑預填時間和上下文長度如何影響性能。大家也對這款 CPU 是否能成為 NVIDIA DGX Spark 的平價替代方案感興趣，前提是具備足夠的記憶體。