Lophius：Heretic 作者推出的語言模型研究工作台
由 Heretic 作者 p-e-w 開發的 Lophius 是一款專為語言模型研究設計的全新開源工作台。它內建了專門用於發現分配（discovery allocation）和量化（quantization）的工具，以簡化研究流程。此工具透過提供統一的環境來處理關鍵的 LLM 優化任務，降低了研究者的門檻。它延續了 Heretic 的成功，為專注於模型…
最新 AI 新聞
第 61 / 61 頁，依本站收錄時間整理（台灣時間），不代表原文發布時間。
DeepSeek V4 Flash 0731 於 Terminal-Bench 2.1 獲 82.7% 高分
DeepSeek V4 Flash（0731 版本）在包含 445 次試驗的獨立公共測試環境中，於 Terminal-Bench 2.1 基準測試取得了 82.7% 的分數。該模型採用 284B/13B MoE 架構，並支援 100 萬 token 的上下文視窗。這項表現突顯了該模型在容器環境中執行複雜任務的強大能力。
騰訊發布 WorldClaw：生成半穩定開放世界的 AI 系統
騰訊正式發布 WorldClaw，這是一套旨在生成半穩定開放世界環境的 AI 系統。該工具試圖彌合靜態資產與動態程序化生成之間的差距，為遊戲開發者與生成式 AI 社群引入創新的互動環境創建方法。 WorldClaw 透過強調「有意圖的佈局」挑戰傳統程序化生成，有望簡化可玩遊戲地圖的設計工作流程。其生成的環境被定義為「半穩定」，意味著地形和建築物等元素…
AMD llama.cpp MTP 緩衝區優化讓 Qwen 27B 支援 149K 上下文
Reddit 用戶展示透過在 llama.cpp 中減少多令牌預測（MTP）緩衝區開銷，可在 AMD GPU 上將 Qwen 27B 模型的上下文窗口從 64K 擴展至 149K。此優化顯著提升了模型處理長文件時的記憶體容量上限，解除了緩衝區限制並釋放了更高的上下文處理能力。該優化涉及對 MTP 分配邏輯的特定修改，社群修補程式在某些測試中允許上下文大…
Qwen 與 Gemma 分詞策略差異引發效率與語法辯論
Reddit 社群討論指出，Qwen 與 Gemma 在分詞（tokenization）策略上存在顯著差異。具體而言，Qwen 會將多個空白字元及 HTML 標籤（如 </div>）視為單一 token；相比之下，Gemma 則會將這些內容拆分為多個 token。 這種基於 Byte Pair Encoding (BPE) 的結構差異，引發了關於上下…
LFM 2.6B 液態神經網路在狀態推理上超越更大模型
LFM 2.6B 液態神經網路模型在狀態推理和約束執行等任務中，展現出與 7B 至 14B 參數更大模型相抗衡的競爭力。社群基準測試顯示，它在特定的代理工作負載中表現優於 Gemma-4-12B 等模型，同時保持了高效率。 這突顯了液態神經網路以較少參數提供高效能的潛力，使其成為裝置端 AI 應用的理想選擇。這種高效的架構可能加速強大本地模型在消費級硬…
Kimi K3 模型經修剪多語言專家，體積由 711GB 縮減至 478GB
Reddit 用戶利用 Unsloth 工具，將原本 711GB 的 Kimi K3 模型體積縮減至 478GB。此次縮減是透過 IQ2-XXS 量化技術，並移除與非英語語言相關的特定專家 MLP（多層感知機）所達成。這項修剪技術專門針對多語言組件進行處理，同時保留了核心的英文能力。
Reddit 討論：Llama 3 問世後，Microsoft Phi 是否已過時？
Reddit 社群針對 Microsoft Phi 模型在 Llama 3 發布後的地位展開討論，分析其是否已過時。討論指出，Phi 模型過去在小語言模型領域中，於指令遵循與 STEM 推理方面表現優於其體型，特別是在 iFeval 等基準測試中名列前茅。然而，隨著 Llama 3 帶來更可靠的工具呼叫能力，改變了以往依賴格式化回應解析的開發模式，Ph…
啟用 PCIe P2P 讓消費級 Nvidia 顯卡本地 LLM 推論吞吐量增約 10%
在消費級 Nvidia 顯示卡上啟用 PCIe 對等（P2P）通訊功能，允許裝置間直接傳輸資料，無需經過主機記憶體。這項優化帶來具體的效能提升，使用者報告本地大型語言模型推論的吞吐量增加了約 10%。 效能提升歸因於 GPU 之間傳輸資料時延遲和頻寬瓶頸的減少，因為 P2P 消除了使用系統記憶體作為暫存空間的需求。擁有雙卡或多卡配置的使用者，例如搭配…
OpenAI 代號「Doug」模型據傳將使現有 AI 遊戲開發能力顯得「原始」
Reddit 討論區流傳消息，OpenAI 即將推出的代號為「Doug」的模型，在遊戲開發任務上的表現將大幅超越目前的前沿模型，如 Claude Opus 4.7。此說法暗示 Doug 的能力將使現有模型的輸出顯得相當「原始」。Semianalysis 報導指出，OpenAI 已克服較大型「Doug」模型的預訓練問題，該模型目前正在積極開發中。若 Do…
PrimeAgent：獲矚目的自我改進型 TypeScript 編碼代理
基於 TypeScript 的自主編碼代理 PrimeAgent 在過去 24 小時內獲得 31 顆新星星，引發廣泛關注。該代理引入利用編碼強化學習（RLC）實現自我改進的新方法，特別適用於長週期工作流。PrimeAgent 基於遞迴語言模型（RLM）構建，將上下文視為變數，並將遞迴子代理等工具作為函數調用整合在持久的 REPL 環境中。這種架構使其能…