新發布的 K2 Horizon 7B 模型採用混合專家（MoE）架構，在 Artificial Analysis 智慧指數中排名位於 Qwen 3.6 27B 與 Qwen 3.6 35B A3B 之間。考慮到其參數量較小，這項表現尤為突出，使其成為 GPU 資源受限環境下的強大候選者。 該模型以 GGUF 格式提供於 Hugging Face，針對 llama.cpp 等框架的快速載入和推論進行了優化。然而，社群討論指出，其 MoE 架構帶來的高 KV cache 成本可能限制其在本地服務長上下文序列時的實用性。

事件背景

混合專家（MoE）是一種架構，透過為每個輸入僅激活部分參數來擴展模型規模，從而提高運算效率。GGUF 是一種針對基於 GGML 的執行器進行優化的檔案格式，允許模型在 CPU 和 GPU 等消費級硬體上高效運行。

社群觀察

社群反應兩極，部分用戶讚賞該模型在體型較小的情況下取得的驚人基準分數，另一些人則批評其高昂的 KV cache 成本使得本地部署變得困難。此外，對於這些基準測試是否僅為「刷分」或模型是否能在特定測試案例之外良好泛化，也存在一些懷疑聲音。