防止蒸餾:保護推理鏈以維持安全分類器效力

Anthropic 產品主管 Angela Jiang 指出,團隊近期對 API 進行了調整,目的是增加從 Claude 模型進行「蒸餾」(Distillation)的難度。這並非單純為了商業競爭,而是基於安全考量:Anthropic 在生成 Token 時會運行安全分類器(Safety Classifiers),若外部公司將 Claude 的能力蒸餾到較小的模型中並移除這些分類器,可能會導致不安全輸出的風險增加。

具體技術手段包括強制要求保留「思考區塊」(Thinking Blocks)跨越多個對話輪次,以及限制對推理軌跡(Reasoning Traces)的提取。這使得競爭對手難以直接複製 Claude 的內部推理過程來訓練自己的模型。

為了避免這些安全措施破壞現有客戶的整合流程,Anthropic 與開源 Harness 維護者及大型企業客戶合作,提供了新的壓縮功能(Compaction Feature),讓開發者在遵守新規則的同時,仍能維持原有的上下文管理策略。

架構革新:分離「大腦」與「雙手」以提升代理穩定性

工程主管 Katelyn Lesse 詳細說明了 Managed Agents 的核心架構理念,即將代理的邏輯控制部分(稱為「大腦」,包含 Session Log 和 Harness)與實際執行代碼的環境(稱為「雙手」,即 Sandbox)分離。

在舊有的架構中,整個編程代理可能都被包裹在一個沙盒後面的 API 中,這導致啟動環境和代理本身會增加首次回應的延遲;若沙盒因錯誤而消失,整個代理會話也會隨之終止。

新架構允許 Harness 持久存在,而執行環境則按需創建。這種分離帶來了兩個主要好處:一是安全性提升,因為生成的代碼在沙盒中運行時無法讀取服務憑證(Credentials),憑證透過 Proxy 附加,減少了洩露風險;二是可靠性與效能提升,即使執行環境崩潰,代理的對話狀態仍能保留,且降低了整體延遲。

產品調整:回應冗長問題並優化每美元智能表現

針對先前 Opus 版本被批評輸出過於冗長(Verbose)的問題,Angela Jiang 承認內部團隊也觀察到類似現象,並在 Opus 5.5 中進行了專門的清理與調整。

發布重點不僅在於模型品質,更強調「每美元的智能」(Intelligence per Dollar)。Anthropic 表示新模型的運行成本低於前代,但具體節省幅度取決於工作負載及對快取上下文(Cached Context)的使用情況。

團隊透過調整 API 的快取機制與定價結構,鼓勵開發者採用對雙方都有利的整合變更,從而將成本節約傳遞給用戶,同時確保模型在處理複雜任務時能提供更精簡、直接的解決方案。

未來路線圖:從功能擴張轉向安全性與評估工具

儘管記憶(Memory)和多代理工作流仍是重要領域,但團隊表示隨著模型發布難度增加,目前的即時注意力已更多轉向安全性。例如,「做夢」(Dreaming)功能被描述為一個代理檢查另一個代理先前工作並寫回記憶的過程,這是基於相同底層原語構建的高階行為。

在評估(Evaluations)方面,Anthropic 視 Harness 為一種應用程式,但改進過程類似研究:設定目標、測量行為、檢查失敗並迭代。團隊討論了使用模型來協助建立和分析評估工具,但仍強調需要保留人類判斷力,以確保評估能反映真實用戶的工作需求。

對於未來的平台能力,如驗證器(Verifiers)、平行代理等策略,團隊建議開發者在相對簡單的基礎 Harness 之上進行實驗,並強調這些提及的想法應視為計畫而非已承諾的發布功能。