Reddit 用戶 sudoing 分享了他成功將 Ling 3.1 Flash 模型載入於四台 NVIDIA DGX Spark 裝置上的經驗。該模型為一個擁有 5600 億參數的混合專家（MoE）架構，每個 token 僅激活約 250 億參數。sudoing 表示他先前對 Ling 系列的早期版本體驗良好，因此希望測試最新的 3.1 Flash 版本，但發現該模型無法在他的兩台 DGX Spark 上以當時的設定載入。隨後，一位位於德國的使用者提供了四台 DGX Spark 的存取權限供其使用。

在技術實現方面，sudoing 使用了 Atomic Chat 提供的 Day-one Q4 GGUF 量化版本，並透過 llama.cpp 的 RPC 功能將模型分佈式地載入到所有四台機器上。他解釋選擇此方案的原因是當時 vLLM 尚無官方的 FP4 構建版本可用。目前截圖中尚未顯示具體的效能數據，但他預期頻寬和速度可能會成為瓶頸。他的主要目標是觀察該模型與較小的 Ling 3.0 Flash (124B) 相比，在回答質量上的差異以及實際使用中的等待時間。

尚待確認：目前尚未提供具體的推理速度或頻寬效能數據。

尚待確認：模型與 Ling 3.0 Flash (124B) 的實際比較結果（回答質量與等待時間）尚未公布。