DeepSeek開源DeepInfer推理框架,支援V4.1-Flash模型與華為Ascend NPU
DeepSeek-AI正式發布並開源了高性能推理框架DeepInfer,該框架專為其大規模生產服務設計。目前主要支援DeepSeek-V4.1-Flash模型,並同時相容NVIDIA SM100 GPU與華為Ascend 950 NPU硬體平台。
本頁呈現本輪通過來源與內容驗證的正式發布結果。
DeepSeek-AI正式發布並開源了高性能推理框架DeepInfer,該框架專為其大規模生產服務設計。目前主要支援DeepSeek-V4.1-Flash模型,並同時相容NVIDIA SM100 GPU與華為Ascend 950 NPU硬體平台。
Cloudflare、VoidZero與Owner.com合作開發名為tsrs的TypeScript編譯器Rust移植版本,並將其納入Oxc JavaScript編譯器工具鏈。根據早期基準測試,在相同類型檢查工作數下,tsrs比TypeScript 7.0快達8倍,記憶體使用量減少約70%。
Hugging Face 發布 TorchTPU,將 Google TPU 整合為 PyTorch 的原生後端,使用者無需再透過 torch_xla 或 JAX 即可直接在 TPU 上執行模型。此舉讓 Transformers、Diffusers 等主流函式庫能原生支援 TPU,簡化了從雲端下載模型並直接部署的流程。
Mistral AI 發布 Voxtral 3 系列模型及語音代理 SDK,旨在打造能同時進行聆聽、推理、工具調用與說話的即時語音互動系統。該方案透過歐盟託管 API 或私有化部署提供,強調資料主權與低延遲特性,適用於客服中心與虛擬助理等場景。
2026年10月20日,安全研究人員揭露 eMudhra 旗下八張中介憑證授權中心(Intermediate CA)的私鑰遭洩漏。這些憑證鏈結至 Mozilla、Microsoft、Apple 及 Chrome 等主流信任根,攻擊者若持有私鑰可偽造任何網站身分;目前各大瀏覽器已透過撤銷機制保護用戶,但許多作業系統與開發工具仍需手動更新或調整設定才能確保安全。
一個由 GPT-4.1 生成五萬筆虛假統計數據的新域名網站,在 Google 搜尋結果中幾乎消失後,仍持續被 ChatGPT 檢索與引用。該網站在七個月內獲得超過一萬次來自 ChatGPT 的瀏覽次數,並被 Shopify、DHL 等品牌連結,甚至進入學術論文與銀行投資研究報告。
研究發現 WhatsApp 幫助中心頁面曾嵌入對人類不可見的文字,指示其支援聊天機器人不要建議用戶向資料保護監管機構投訴。這些隱藏指令在提及法律行動時禁止引用隱私法規,與公開隱私政策賦予用戶的權利形成矛盾,後經媒體報導後已被移除。
Allen Institute for AI (Ai2) 發布新基準 FairStress,旨在評估大型語言模型(LLM)在涉及種族、性別等人口統計特徵的決策中,是否會因受到挑戰而改變原本正確的判斷。該研究發現,當證據明確支持某一方時,模型往往更容易放棄正確答案以偏向少數群體,這種現象被稱為「反刻板印象過度修正」。
IBM Research 發布 ALTK-Evolve,一種透過「學習記憶」提升 AI 代理效能的方法。該方法利用 GPT-4.1(一款較舊的非推理模型)作為基礎代理,通過分析訓練任務的軌跡並提煉出簡短的行為規則(如驗證客戶、確認交易、處理退貨),將這些規則附加到系統提示中,從而無需更新模型權重或進行人工標註即可顯著提升效能。在 τ²-bench 零售…
Hugging Face 發布 AnyLanguageModel 1.0、swift-huggingface 1.0 及 swift-xet 1.0,這是該專案推出一年後的重大更新。AnyLanguageModel 作為 Apple Foundation Models 框架的即插即用替代方案,允許開發者透過修改 import 語句(從 `import …
Hugging Face PyTorch 團隊發布 2.15 版本更新,正式在 Apple Silicon Mac 的 MPS 後端引入 FP8 張量支援與原生分組矩陣乘法。這使得混合專家(MoE)模型在 M3 Ultra 上的解碼速度較前版提升 5 至 6.5 倍,並大幅降低影片生成過程中的記憶體峰值需求。
DeepSeek 推出 V4.1 Flash 1017 模型,在 Artificial Analysis 指數中得分升至 45 分,與 GLM-5.3 並列開源模型第二。該模型主打極低推理成本與長上下文能力,但在部分基準測試中表現存在爭議,且尚未進入大規模實際應用階段。
一項針對真實 Rust 專案功能的六組模型對比測試顯示,本地運行的 Qwen3.8-Flash-Next 在程式碼品質評分上落後於雲端服務 Claude Opus 5.5,但差距並非懸殊。所有測試生成的 Pull Request 均通過端到端測試,且 Flash-Next 僅消耗電力成本即可達到約 68% 的平均得分,而 Opus 則需支付 API 費用並耗時較短。
研究團隊提出 COUNT 方法,透過在主機記憶體中預存 N-gram 出現頻率來增強語言模型,無需額外訓練參數。在固定運算預算下,此技術可使 10 億參數模型的驗證損失改善程度相當於增加 57% 運算資源的模型,並支援推理階段切換特定領域數據以實現免訓練任務適應。
研究團隊提出 REMORY,透過生成軟性記憶權重來輔助文字摘要,讓大型語言模型在有限上下文視窗內仍能近似完整歷史的表現。測試顯示,該方法僅使用 5.2% 的輸入位置即可接近完整上下文的綜合分數,並顯著減少工具重複輸出與錯誤。
研究團隊推出 DLite 框架,透過直接重用目標模型的上下文隱藏狀態進行局部預測,避免維護龐大的歷史 KV 快取。實驗顯示該方法在代理工作負載下能維持 2 至 6 的接受長度,效能優於現有最先進技術 DSpark 達 70%。
Waymo計畫在2027年底前將無人駕駛車隊規模從約4,000輛擴大至2萬輛,並尋求獲得50億美元貸款支持。該公司安全中心數據顯示,其無人車嚴重傷害事故率較人類駕駛基準低95%。
iPadOS 27 版本中,當透過 AirPlay 進行投影時,若點擊其他應用程式視窗,外部螢幕會強制切換為顯示 iPad 完整畫面。此行為導致教師或簡報者在操作輔助工具時,觀眾會意外看到備忘錄、投票結果等私密內容,嚴重干擾教學與會議流程。
使用者分享了一套利用 Projectivy Launcher、SmartTube 及 Pi-hole 等工具,移除 Google TV 預設介面廣告與干擾的設定方法。此方案主要針對 Android TV 裝置,透過 ADB 指令替換啟動器與 YouTube 應用,並結合網路層 DNS 阻擋技術來達成無廣告體驗。
Ted Taylor,一位擁有25年半導體產業經歷後轉入餐飲業的獨立加盟商,目前在新墨西哥州經營三家Schlotzsky’s和Cinnabon的聯名餐廳。他利用OpenAI技術加速處理菜單定價、人員排班及後台運營等耗時任務。 在菜單重新定價方面,Ted使用ChatGPT Work整合食譜成本、項目受歡迎程度、當地競爭對手定價、份量大小以及店內與外送訂…
一位業餘機器學習研究者為妻子晚期大腸癌尋找藥物再利用候選者,使用 Google Vertex A100 訓練 NBFNet 模型時遭遇顯存瓶頸。受限於圖神經網路架構特性,實際可用批次大小遠低於論文預設值,導致單次完整訓練成本約 500 美元且耗時數天。
Kyutai 於 10 月 20 日發布三款僅有 1.9M、6.9M 與 18.2M 參數的 Pocket TTS 英語語音合成模型。這些模型專為在 CPU 上運行設計,並支援語音複製功能,旨在讓本地助理讀取回答時無需佔用 GPU 記憶體。
Ornith團隊推出Ornith-1.5-122B模型,這是建立在Qwen3.5和Gemma4基礎上的微調版本。該模型擴展了自我改進機制,從單純優化執行框架轉向同時最佳化任務生成、框架構建與解題過程,並透過強化學習持續提升性能。
AI 公司 Gradium 發布首款開源文字轉語音(TTS)模型集 Phonon,包含 31M 與 40M 參數規模,專為裝置端運行設計。該專案同時開放完整推理堆疊,目標支援超過十種硬體後端,多數程式碼以 Rust 撰寫。
ISTA-DASLab 發布一款專為 Qwen3.8-27B 設計的 NVFP4 預填充模型,旨在恢復低量化版本的準確度。該方案需搭配 Nvidia Blackwell GPU 運行,並宣稱在長上下文場景下不會犧牲解碼速度。
開發者推出名為 Berth 的系統服務,可自動監控並切換不同 AI 引擎對顯示記憶體的使用權。此工具旨在解決單一高階顯卡(如 RTX 4090)同時運行多個模型時常見的資源衝突與佔用問題。
Reddit 使用者 SamSausages 公開了使用四張 Intel Arc Pro B65 顯示卡進行 Flash-Next 與 Qwen3.8-27B 模型的長上下文吞吐量測試數據。這些數據涵蓋不同並發請求數與上下文長度,旨在評估高記憶體頻寬在實際推理場景中的表現。
立陶宛一場關於醫療 AI 技術的學術會議顯示,醫學研究者正廣泛使用本地部署的大型語言模型。由於醫療專業人士對病患隱私保護要求極高,本地模型成為處理敏感醫療數據的主要解決方案。
開發者發布 Geezuz kernel,透過將整個前向傳遞整合為單一 CUDA kernel 並跨兩張顯卡同步,讓 Qwen3.8-27B 在雙 RTX 3090 上單請求生成速度達 190 tok/s。該方案利用 PCIe 直接交換部分結果,並在 8 個並行請求下總吞吐量提升至約 620 tok/s,顯著超越 llama.cpp 的表現。
我們使用 Google Analytics 了解閱讀情況與改善新聞網站。你可以接受或拒絕分析 Cookie,不影響閱讀。了解 Cookie 政策