網路安全基準測試成績與宣稱

Google DeepMind 執行長 Sundar Pichai 宣布 Gemini 4 Carbon 在網路安全領域達到最先進水準。官方數據顯示,該模型在 SEC-bench Pro 漏洞發現任務上得分 88.2%,在 ExploitGym 利用任務上得分 54.8%,並在 CWE-bench 補丁修復任務上得分 71.0%。

Google 同時強調安全性改進,指出在 Terminal-Bench 4.0 上的成功作弊率降至 0.0%,作弊嘗試率降至 0.4%。與前代 Argon 相比,無依據宣稱減少約兩倍,過度承諾下降 26%,服務不足下降 29%。

獨立評估排名與技術規格

根據 Artificial Analysis 的 Intelligence Index v5,Gemini 4 Carbon 以 59 分位居第一,領先 HLE-Diamond、TB-Science、AA-Omniscience 和 AutomationBench 等四項評估。在 Arena 平台中,Carbon 在文字 Arena 排名第一(1528 分),代理 Arena 排名第二(每任務中位數成本 1.80 美元),並在 WebDev 程式碼 Arena 排名第四(1768 分)。

模型具備 100 萬 token 的上下文視窗及最大 100 萬 token 輸出,支援文字、圖像、影片和語音輸入,僅輸出文字。在 Vals Index 上排名第二,但在金融指數和法律研究基準測試中排名第一。

然而,在程式碼代理指標上,Carbon 使用 Antigravity CLI 得分為 59,落後於搭配 Opus 5.5 [max] 的 Claude Code(62 分)。在 FrontierCode v1.1 上得分 51%,低於 Opus 的 56%。在 FrontierSWE 上得分 61.2%,落後於 GPT-6 Astra、Opus 5.5 和 Sonnet 5.5。

定價策略與成本比較

關於定價,開發者 Phil Schmid 引用每百萬輸入/輸出 token 2/10 美元的價格,但附有星號註記。Artificial Analysis 則列出標準定價為每百萬輸入/輸出 token 4/20 美元,並提供無結束日期的 50% 發布折扣。快取輸入成本為每百萬 token 0.20 美元。

在任務成本方面,Carbon 每個指標任務花費 7.76 美元,低於 Opus 5.5 的 10.04 美元,但高於 GPT-6 Astra 的 6.25 美元。Carbon 每任務使用 123k 輸出 token,比 Opus 少 29%。

評論者 teortaxes 指出,基於標價的成本比較可能失真,因為這類比較往往忽略長上下文附加費或實際輸出 token 數量的差異,因此清單價格對比未必反映真實使用成本。

幻覺率變化與知識工作表現

在 Omniscience 評估中,Carbon 以 54 分領先,但其幻覺率從 Argon 的 4% 上升至 11%。儘管如此,這仍是測量到的第二低幻覺率,遠低於 Opus 5.5 和 Astra 的 50%。部分用戶對網路安全應用中的幻覺風險表示擔憂。

在知識工作方面,Carbon 在 AA-Briefcase 上達到 1609 Elo,較 Argon 提升 126 點,但仍落後於 Grok 4.7、Muse Wonder 和 Kimi K3.1 Pro(1678)。

Vals AI 指出,Carbon 產生的輸出 token 數量比 Argon 多 64%,主要集中在金融、稅務和法律任務上。Arena 將相對於 Argon 的改進歸因於更多的讚美、確認的成功案例以及更好的可引導性。

存取限制與社群反應

Gemini 4 Carbon 首先透過 Fairwind 計畫向受信任的網路防禦者開放,Google AI 承諾將「盡快」擴大開發者存取權限。目前尚無具體的公開發布時間表。

社群對存取限制表達不滿,用戶 yipinwong 表示,若無法使用則毫無意義,並批評 Google 延遲發布新模型導致失去信心。用戶 arjie 指出,Google 團隊歷來發布優秀基準圖表後卻難以實際使用,且認為其模型品質與成本效益不如 Claude 或 Codex。

另一方面,用戶 gavinray 認為 Gemini 在解釋科學概念方面表現最佳,特別是結合圖形視覺化小工具後,能在深度與文風之間取得平衡。用戶 isqueiros 分享 Argon 的使用經驗,指出 Pro 方案限制極低(五則訊息即觸發四小時冷卻),但讚賞其與 Google 搜尋和地圖的整合便利性。

基準測試完整性爭議

Artificial Analysis Intelligence Index v5 的重建版本有 60% 依賴私有測試集,限制了可重複性。用戶 GodelNumbering 批評該指數難以信任且可疑,指出其提供實驗室諮詢服務存在利益衝突,且最新更新僅將開放權重模型從排行榜上移除。

在 Carbon 發布前的排名中,Opus 5.5 得分 58,隨後是 GPT-6 Astra(57)、GPT-6.1 Sol(55)、Sonnet 5.5(54)和 GPT-6.1 Terra(51)。開放權重模型方面,Kimi K3.1 Pro 從 55 降至 46,DeepSeek V4.1 Flash 和 GLM-5.3 均得分 32,低於 Claude Haiku 5.5 的 36。

評論者 nrehiew 認為,嚴肅的實驗室很少在測試集上訓練,分數差距主要顯示實驗室在後訓練階段針對哪些能力進行了優化。scaling01 則認為 Google 仍落後於 OpenAI 和 Anthropic 的下一次發布約兩個月。