量化感知修復:4位元模型在基準測試中超越全精度原版
研究人員提出「量化感知修復」(QAH)方法,使壓縮後的 4 位元大型語言模型在特定基準測試中,表現優於其全精度對應版本。該技術透過利用未壓縮教師模型的對數機率(logit)層級資訊,來恢復量化過程中損失的準確度。 此發現挑戰了「量化必然導致模型性能下降」的傳統觀點,顯示壓縮模型在資源受限硬體上部署時可達高效率。研究指出,應用適當修復技術能在不犧牲品質…
第 48 / 61 頁,依本站收錄時間整理(台灣時間),不代表原文發布時間。
研究人員提出「量化感知修復」(QAH)方法,使壓縮後的 4 位元大型語言模型在特定基準測試中,表現優於其全精度對應版本。該技術透過利用未壓縮教師模型的對數機率(logit)層級資訊,來恢復量化過程中損失的準確度。 此發現挑戰了「量化必然導致模型性能下降」的傳統觀點,顯示壓縮模型在資源受限硬體上部署時可達高效率。研究指出,應用適當修復技術能在不犧牲品質…
Hugging Face 發布了一篇部落格文章,詳細說明使用 Gradio 框架建置、測試和部署 AI 應用程式的最佳實踐與工作流程。該指南涵蓋了從本地開發到部署至 Hugging Face Spaces 的完整生命週期。 這篇指南透過提供關於工作流程管理的實用建議,解決了開發者常見的痛點,對 AI/ML 工程社群具有高度價值。它有助於簡化透過網頁介…
業界傳奇人物吳恩達在 Latent Space 發表新文章,開始探討新興的人工智慧工程領域。這標誌著他正式進入討論 AI 系統的實際設計、開發與部署階段。 文章強調,人工智慧工程是一門專注於建立具擴展性、效率與可靠性的 AI 解決方案之技術學科,並運用工程原則來建構能完成特定任務或達成目標的智慧系統。 吳恩達的參與為 AI 工程師的角色增添了公信力…
IBM 發布了 Granite-4.2-30B,這是一款具備原生思維鏈能力的旗艦級開源推理模型。這個擁有 300 億參數的模型支援完整思考、不思考及低耗費模式,讓使用者能在效能與延遲之間取得平衡。 此發布提供了一個適用於複雜推理任務且具商業可行性的 Apache 2.0 授權替代方案,滿足了市場對透明且靈活的開源大型語言模型的需求。它讓開發者能夠部署…
Llama.cpp 的一個分支引入了自適應推測解碼功能,該功能能根據內容類型動態調整建議的 token 數量,在 Qwen3.8 等模型上實現高達 50% 的推理速度提升。此優化顯著提高了 token 生成速率,例如在 Strix Halo 硬體上,結構化內容的生成速度從每秒 44 個 token 提升至 65 個 token。 這項進展解決了 Ll…
Anthropic 的頂級 AI 模型在吸引用戶方面面臨挑戰,主要落後於較便宜的替代方案。其核心摩擦點在於標記(tokens)消耗速度快,導致使用成本高昂,以及缺乏許多企業視為強制性要求的「零數據保留」(Zero Data Retention, ZDR)功能。 相較之下,競爭對手如 OpenAI 透過企業協議提供零數據保留選項,在對隱私敏感的領域佔據…
第二屆世界人形機器人運動會(WHRG'26)於八月二十二日至二十六日在北京舉行,匯聚了來自十六個國家的六百六十六支隊伍與兩千零五十六台機器人,進行超過一千三百場比賽。比賽涵蓋五十一個項目,從競速到對戰,強調娛樂性與技術實力並重。 一段病毒式傳播的影片突顯了人形機器人對戰的吸引力,參賽者公開接受失敗作為競賽的一部分。此活動展示了機器人領域中獨特的容錯文…
小米新開發的 ARM 架構處理器在單執行緒效能上追平蘋果,同時在多執行緒速度上表現更為優異。這項成果突顯了小米在自研晶片設計上的進步,使其成為與現有晶片大廠競爭的有力對手。 該晶片採用 ARM 架構,預計將由台積電以 4 奈米製程量產。這項進展標誌著智慧型手機晶片市場競爭加劇,挑戰了高通與聯發科的主導地位,顯示中國製造商不僅在組裝設備,更掌握了核心硬…
SeL4 微核心已針對 AArch64 架構完成正式安全證明,標誌著經過驗證作業系統的重要里程碑。此成就將該核心的數學保證擴展至驅動多數現代行動與嵌入式裝置的硬體平台,為在普及的 ARM 架構上建構安全軟體堆疊提供了經數學證明的基礎。 這項驗證對於極度重視硬體層級安全性的嵌入式系統、汽車和軍事領域的高保證應用至關重要。目前的證明範圍涵蓋單核心、非 M…
一項分析指出,過度依賴 AI 編碼工具正導致企業環境中程式碼專業能力顯著下降,工程師產出程式碼的速度遠快於其審查速度。這種趨勢與過去技術採用週期相似,例如早期對物件關聯映射(ORM)工具的質疑。 此議題的重要性在於它突顯了「AI 引發的技能萎縮」風險,即開發者可能在沒有 AI 協助的情況下失去理解或除錯複雜系統的能力。這影響了軟體的長期可維護性,以及必…
Farid Zakaria 指出,ELF 可執行檔的結構與 SQLite 資料庫具有高度相似性,並能透過虛擬資料表功能,直接使用 SQL 進行查詢。這項見解揭示,二進位格式本身即可被視為資料庫,無需依賴外部解析工具。這種觀點為探索與修改二進位檔案提供了新方法,可能簡化系統程式設計師的除錯與分析工作。此外,這也引發了以 SQLite 為基礎的替代方案來取…
Farid Zakaria 提出了一種技術,透過重新利用檔案標頭中的應用程式 ID 欄位,將 ELF 二進位檔儲存於 SQLite 資料庫檔案中。搭配自訂解譯器與 Linux binfmt_misc 核心機制,這些 .db 檔案可直接作為程式執行。 此方法透過利用 SQLite 的普及性與簡易性,為 AppImage 或 Flatpak 等傳統封裝格式…
一台機器人成功在實時狀態下完成了一百米跨欄賽並攀爬方塊,展現了驚人的動態移動能力。這項表現突顯了機器人敏捷度與實時障礙物互動方面的重大進展。 這在動態移動領域是一個重要里程碑,因為它證明機器人無需預先錄製的動作序列即可處理複雜的多階段地形。它將影響需要非結構化環境自主導航的產業,例如搜救或物流。 機器人在比賽期間完成了方塊攀爬,顯示其具備實時決策能力,…
Microsoft Paint 與照片應用程式會在使用 AI 處理的影像中,靜默嵌入不可見的 GUID 浮水印,即使處理過程是在用戶裝置本地進行。這項發現顯示浮水印與伺服器發行的識別碼相關聯,透過 C2PA 清單可能讓 Microsoft 追蹤用戶身份。 不可見的浮水印嵌入在 C2PA 清單中,並使用由遠端提示審核接收的 GUID,這使其區別於簡單的…
負責維護 IPFS 的 Shipyard 團隊宣布結束營運,標誌著該專案維護權的重大轉變。此事件發生在 Cloudflare 先前停止支援 IPFS 之後,突顯了維持開源基礎設施的挑戰以及 Protocol Labs 策略的轉變,進而影響去中心化網路生態系。此次營運結束顯示出向更專注或更具永續性的 P2P 模型轉變的趨勢,並引發關於去中心化網路未來及潛…
分析指出,歐盟法規的碎片化與實施延遲,使得微型企業與微創業者的負擔遠重於大型企業。社群討論將此官僚複雜性與中國集中的物流模式及美國便捷的商業環境進行了比較。主要痛點包括各國採用了20至24種不同版本的歐盟法律,以及因成員國反對而未能建立單一中央登記簿。最近的綜合包計畫旨在到2030年為中小企業減少至少35%的行政成本。
OpenAI 宣布針對 GPT-5.6 Sol 模型實施價格調降措施。在 2026 年 11 月 21 日之前,輸入 token 享有 20% 折扣,輸出 token 則享有 33% 折扣。 調整後的定價結構顯示,每百萬個輸入 token 的價格為 4.00 美元,每百萬個輸出 token 為 20.00 美元。此定價策略使先進功能能以更低的成本惠及…
保羅·格雷厄姆(Paul Graham)的推文在 Hacker News 上引發熱烈討論,核心議題為大多數工程師是否有必要從零開始學習建構大型語言模型(LLM)。這場對話突顯了深度機器學習技能的理論需求與業界實際情況之間的落差,因為目前鮮少職位真正需要模型訓練的專業知識。評論者指出,雖然進行實際模型訓練的公司寥寥無幾,但理解注意力機制和梯度下降等底層概…
美國食品藥物管理局(FDA)已核准 PrecivityAD2 血液檢測,該檢測透過測量澱粉樣蛋白 β 濃度,協助診斷輕度認知障礙或失智症患者是否患有阿茲海默症。這項核准標誌著神經退化性疾病非侵入性診斷工具的重要進展,使得早期且更準確地識別阿茲海默症病理成為可能,從而在顯著認知衰退發生前指導治療決策。 該檢測提供比腦脊髓液分析或正子造影(PET sca…
儘管因缺席判決需賠償 3.4 億美元並失去多個域名,Anna's Archive 仍維持運作。即使紐約法官下令全球註冊商停用其剩餘域名,該網站依然屹立不搖。 此案突顯了數位保存與企業版權執行之間的持續張力。它展示了開放存取基礎設施如何承受巨大的法律與財務壓力,以維持知識的自由流通。 債務來源於多項缺席判決,包括針對 Spotify 的 3.22 億美元…
本文詳細介紹了一種方法,透過在單一 Parquet 檔案中儲存預先計算的分組集(grouping sets)來建立響應迅速的客戶儀表板。此方法利用 Cloudflare Workers 或 GitHub Pages 等高效的託管策略,以最低的延遲和成本提供資料立方體。 對於非即時更新但更新頻率較低的資料集,此技術提供了比傳統資料庫支援儀表板更具成本效益…
一位開發者記錄了為各種科技產品安裝自訂韌體與驅動程式,以實現完全掌控的過程。這包括逆向工程如 Silicon Motion sm750 顯示卡等硬體,並解決 OLED 顯示器的浮動選單問題。文中提到了具體的技術成就,例如為一款冷門顯示卡開發具備完整 DRM 和 DKMS 支援的新 Linux 驅動程式。此外,還討論了透過修補韌體來關閉 OLED 顯示器…
Anthropic 在 2026 年 7 月的年化營收飆升至 650 億美元,但其最新模型 Opus 5 在 Ramp AI Index 的支出佔比僅為 3.5%,低於 Opus 4.8 等舊版模型。與此同時,OpenAI 的營收季增 35%,主要受惠於 GPT 5.6 的推出及其具成本效益的定價層級。這些數據突顯了一個關鍵市場趨勢,即高營收並不一定代…
Drew Breunig 指出,Anthropic 新推出的 Fable 模型雖然效能驚人,但價格高昂,使得 Opus、5.6、K3 和 GLM 等較舊模型足以應付大多數程式碼任務。Fable 的定價為每百萬輸入 token 10 美元,促使開發者重新評估工作分配策略。這種轉變讓開發重心從追逐最新、最昂貴的模型,轉向優化程式碼框架(coding har…
Jack Clark 的 Import AI 通訊報導了 METR 的研究,指出 AI 正在加速特定類型的研究進展。本期內容介紹了透過自我對弈自動生成環境的 SPADE,並詳細說明了以最少監督優化 GPU 核心的 Hawkeye。 本期通訊結合了政策與工程領域,在討論機器權利的同時,呈現了自我改進環境與硬體感知核心生成的技術突破,標誌著 AI 系統正…
Reddit 社群分享了一張圖片,展示了一款在 2U 機箱內整合了 64 顆 Apple M5 晶片的客製化伺服器。該建置透過內部互連技術連接所有晶片,並配備基礎散熱系統。儘管這項設計展現了潛在的高密度 AI 推理能力,但它目前仍屬於客製化解決方案,而非 Apple 官方發布的產品。
小米發布了 AI Cube 原型機,這是一款包含玄戒 O3、O100 和 D100 三顆晶片的系統。該系統擁有高達 1.22TB/s 的記憶體頻寬,主要由高頻寬 AI 加速器晶片 O100 驅動。 此公告突顯了小米在 AI 硬體生態系中的擴張,為 Nvidia 等既有廠商提供了競爭對手。它展示了車用與消費電子晶片的融合趨勢,有望降低高頻寬記憶體的價格。…
Qwen 3.8 27B 在程式碼競技場(Code Arena)排行榜上取得了第九名的佳績,展現了強大的專屬程式碼能力。相比之下,Google 的 Gemma 4 31B 模型在相同基準測試中排名較低,僅位列第 80 名。 此排名突顯了 Qwen 等開放權重模型在專屬程式碼任務中的競爭力,為本地部署提供了高效的選擇。同時它也強調了不同模型各有專長,儘管…
一項模擬宇宙射線位元翻轉的實驗顯示,大型語言模型會迅速退化。該實驗使用了 Qwen2.5-Coder-3B 和 Qwen3 8B 等模型,並觀察到退化過程並非單調,這使得在搜尋空間中識別確切的失效點變得更加複雜。 研究指出,即使存在記憶體錯誤,具備推理能力的模型對隨機損壞展現出部分韌性,能在推理階段部分修正其輸出。這表明,與標準生成模型相比,推理模型…
研究人員提出 ToMoE,一種利用可微動態結構剪枝將稠密大型語言模型轉換為混合專家(MoE)架構的方法。該技術透過將多層感知器(MLP)層轉換為混合專家結構,促使稠密模型維持固定數量的活躍參數,且在不永久刪除參數的情況下減少活躍參數數量。此方法具有可微性,使其能在訓練期間自動學習最佳的剪枝粒度,而無需人工介入或後續的微調。在無需微調的情況下,ToMoE…
我們使用 Google Analytics 了解閱讀情況與改善新聞網站。你可以接受或拒絕分析 Cookie,不影響閱讀。了解 Cookie 政策