修復視覺模組載入問題並沿用原版量化配方
開發者 returnity 針對 DeepSeek v4.1 Flash 1017 版本推出了適用於 ds4 架構的量化模型。先前該版本的語言模型部分已可載入，但視覺編碼器（vision tower）因缺乏支援而無法運作，此次發布透過合併一個 Pull Request 解決了此問題。
在量化策略上，returnity 表示完全遵循 antirez 為原版 DS4.1 Q2 版本所採用的配方。具體做法是將路由專家（routed experts）權重量化為 2-bit，其餘組件則維持 8-bit 或更高的精度，同時保留原始的 FP8 engram 表。開發者指出，這種組合在原版模型上表現良好，初步測試顯示在新版上也同樣有效。
模型結構大幅變動與校準資料來源更新
與原始檢查點相比，v4.1 Flash 1017 版本進行了顯著的重構。根據開發者描述，約有 40% 的路由專家張量、30% 的 engram 以及約 50% 視覺塔的專家張量發生了改變。
為了適應這些結構變化，量化過程中的 imatrix（用於指導量化精度的統計資訊）是直接從 1017 版本的檢查點生成，而非沿用舊版資料。開發者認為該模型目前看起來是領先的開放權重模型，因此決定進行移植與測試。
硬體需求與記憶體管理機制
該模型的有線主幹（wired backbone）大小超過 150GB。在配備 128GB RAM 的系統上，模型會從 SSD 串流載入，但大部分的路由專家會被保留在熱快取中，以確保推理效率。
約 200GB 的 engram 表不會常駐於 RAM 中，而是採用按需分頁（paged in on-demand）的方式從 SSD 載入。這種記憶體管理策略使得模型能在 M5 Max 晶片上達到每秒 20 tokens 的解碼速度。
