Anthropic 宣布所有 Claude 模型將實施不可見的文字浮水印，以符合歐盟《AI 法案》的要求，該技術被評論家約翰·格里伯（John Gruber）稱為「文字摻雜」。這項變更透過改變詞元選擇的隨機性，在生成的內容中嵌入可偵測的訊號。此實作影響了大型語言模型生成文字的根本方式，可能對 AI 輸出的自然度與精確度產生影響。同時，它也需要新的 AI 偵測基礎設施，因為驗證浮水印可能需要將文字發送給多個供應商。浮水印技術使用 Gumbel-Softmax 方法，使隨機數生成器呈現偽隨機特性，同時不會顯著影響寫作品質。這些浮水印在複製貼上後依然存在，即使 Claude 僅修正拼字錯誤也會顯示。
事件背景
大型語言模型（LLM）透過根據機率分佈預測下一個詞元來生成文字，通常使用如 top-p 或溫度設定等隨機採樣方法。AI 偵測依賴於識別這些詞元選擇中的統計模式，以區分機器生成的文字與人類書寫。歐盟《AI 法案》要求透明度措施，促使 Anthropic 等供應商採用標準化的浮水印技術。
社群觀察
社群意見兩極，有人讚賞 Gumbel-Softmax 的技術穩健性，也有人擔心將文字發送給多個供應商進行驗證的隱私影響。批評者認為浮水印對於精確寫作並非必要，而支持者則指出它並未降低輸出品質。
