Step Fun 發布了 Step 5 Preview 的詳細資訊，這是一款稀疏混合專家（MoE）大型語言模型，擁有 6000 億總參數，但每個 token 僅激活 270 億個參數。該模型支援 100 萬 token 的上下文視窗及視覺輸入，並將於 10 月 15 日開放權重下載。 此次發布突顯了產業向稀疏 MoE 架構發展的趨勢，該架構能在保持高效推理成本的同時，實現龐大的參數規模。Step 5 Preview 在 Artificial Analysis 智慧指數中獲得 44 分，使其在競爭力上與 Kimi K3 和 GLM 5.3 等更大規模的模型並駕齊驅。 該模型採用稀疏 MoE 架構，每個 token 僅激活部分專家，與稠密模型相比大幅降低了計算負載。社群討論指出，其輸入/輸出價格為 1 美元/2.70 美元，具有競爭力，且其性能指數與參數數量多達數倍的模型相當。

事件背景

稀疏混合專家（MoE）是一種神經網路架構，將前饋層劃分為多個「專家」。在推理過程中，路由機制僅選擇少數專家來處理每個 token，使模型能在不線性增加推理成本的情況下擴展總參數。這項技術讓大型語言模型能夠比傳統稠密模型更高效地處理更長的上下文和複雜推理。

社群觀察

社群成員將 Step 5 Preview 的性能指數與 Kimi K3 和 GLM 5.3 進行比較，並指出其具競爭力的定價以及取代前沿模型為許多開發者服務的潛力。部分用戶批評示範影片中顯示了 AI 幻覺，而其他人則強調其透過寶可夢遊戲運行所展現的強大長上下文能力。