六至七家中國人工智慧實驗室宣布，計畫在未來兩年內訓練出參數量介於一萬億至四十萬億之間的大型語言模型。這項雄心勃勃的擴展計畫標誌著中國超級大型 AI 系統開發的顯著加速，凸顯了中國透過龐大參數量積極競爭美國領先模型的決心，可能改變全球 AI 格局。

同時，此趨勢強調了華為昇騰等本土硬體生態系支援大規模訓練的能力，顯示其不再完全依賴 NVIDIA 晶片。一萬億至四十萬億的參數目標範圍顯示出向混合專家（MoE）架構的轉變，這種架構能在維持可負荷訓練成本的情況下實現龐大的模型規模。此擴展策略旨在增強推理能力和上下文處理能力，有望突破當前密集變壓器架構的限制。

事件背景

大型語言模型（LLM）是經過大量文本訓練的神經網路，用於執行翻譯和推理等任務。隨著模型規模擴大，它們通常需要更多的運算能力，這通常由 NVIDIA A100 或 H100 等 GPU 提供。然而，中國實驗室正越來越多地利用華為昇騰晶片等本土替代品以及混合專家（MoE）等先進架構，來管理萬億參數模型訓練的複雜性和成本。

社群觀察

社群情緒既熱情又務實，用戶們開玩笑說在本地運行如此龐大模型所需的硬體規格。此外，還有關於中國研究人員在學術論文作者署名中的主導地位，以及中國可能由人工超智慧（ASI）統治的地緣政治影響的顯著討論。