llama.cpp 創作者 Georgi Gerganov 針對 Nvidia 收購其公司一事發表看法,強調開源採用與 Nvidia CUDA 壟斷之間的戰略張力。他指出,雖然開放權重增加了對 Nvidia 硬體的需求,但維持硬體中立性對於該專案的長期生存至關重要。此討論突顯了開源專案被硬體巨頭收購後潛在的利益衝突,因為它們必須在社群信任與收購方的生態系鎖定策略之間取得平衡。這強調了硬體中立性的重要性,以確保開放模型能跨越多種運算平台(不僅限於 Nvidia)進行存取。Gerganov 指出,開放權重的採用率提升直接帶動了對 Nvidia 硬體的需求,形成了一種共生但潛在風險的關係。社群持懷疑態度,有人質疑這些承諾,也有人指出 AMD 對 AI GPU 支援不足作為對比。
事件背景
llama.cpp 是由 Georgi Gerganov 開發的開源 C/C++ 推論引擎,允許 LLaMA 等大型語言模型在本地硬體(包括 CPU 和各種 GPU)上高效運行。Nvidia 以 129 億美元收購 Hugging Face,顯示其將開源 AI 平台整合至 CUDA 生態系的廣泛策略,引發了關於未來開放性與相容性的疑問。
社群觀察
社群情緒褒貶不一,部分用戶因維持 CUDA 近乎壟斷的利益衝突而對 Nvidia 的承諾表示懷疑。另一些人則指出,開放權重的採用透過驅動硬體需求來造福 Nvidia,同時有幾位評論者批評 AMD 缺乏具競爭力的 AI GPU 支援。



