社群開發者 TheDrummer 發布了 Artemis 31B v1.1,這是其先前模型的精煉版本,著重於穩定性與品質,同時推出了原始 v1 版本。此次更新讓使用者可以在最初注重散文風格的版本與更穩定的 v1.1 版本之間做出選擇。此發布為本地大型語言模型愛好者提供了標準 Gemma 和 Mistral 基模型的顯著替代方案,展示了社群驅動微調的持續活力。它突顯了經驗豐富的開發者如何精煉基礎架構,以解決寫作穩定性等特定用例。Artemis 31B v1.1 基於 Gemma 架構,而開發者之前的 Skyfall 模型則採用 Mistral 基礎。用戶指出的一個主要技術限制是,Artemis 在其 QAT 基礎上缺乏 KV 快取量化功能,這影響了在 24GB 等 VRAM 有限的硬體上的效能。
事件背景
Gemma 是由 Google DeepMind 開發的一系列開權重大型語言模型,以其效率和強大的推理能力而聞名。TheDrummer 是一位知名的社群貢獻者,之前曾發布過基於 Mistral 的 Skyfall 和基於 Nemo 的 Rocinante 等熱門模型,展示了在微調各種架構以用於創意和散文任務方面的專業知識。
社群觀察
社群情緒普遍正面,用戶讚賞開發者的回歸以及模型的品質。然而,討論中突出了實際的權衡,例如 VRAM 限制影響了 Artemis 的 KV 快取量化,而部分用戶表示比起基於 Gemma 的 Artemis,他們更偏好基於 Mistral 的 Skyfall 模型。



