Anthropic 公開了 Claude 的詳細系統提示,明確揭示了行為優先級,例如在危機期間優先考慮用戶福祉。此次發布為外界提供了了解引導模型回應之指令的透明視角。 此次披露為 Anthropic 的模型行為路線圖和安全優先級提供了寶貴見解,幫助開發人員了解 AI 如何在任務完成與用戶安全之間取得平衡。它也突顯了更廣泛 AI 生態系統中平台策劃和提示工程的趨勢。 系統提示包含具體指令,例如當用戶處於焦慮狀態時,優先考慮福祉而非任務完成。社群成員 SimonW 追蹤了版本差異,揭示了包括引入 Claude Fable 5 和 Mythos 5 在內的變更。
事件背景
系統提示是在對話開始時提供給 AI 模型的指令,用於塑造其行為、語氣和知識庫。Anthropic 採用分層方法,包括定義誠實和安全等核心價值的「憲章」,這些都反映在詳細的系統提示中。了解這些提示有助於使用者和開發人員預測 Claude 將如何處理特定情境。
社群觀察
社群討論突出了追蹤版本間提示變更的技術深度,SimonW 提供了詳細的差異 git 歷史記錄。使用者還討論了系統提示的分層性質,並建議使用模組化、特定任務的提示來取代單一龐大的提示進行實驗。



