Anthropic、OpenAI、Google、Meta、Microsoft 和 Mistral 已簽署歐盟《人工智慧生成內容透明度行為準則》，以符合歐盟《人工智慧法案》的要求。這項自願協議要求簽署方標記或標籤化 AI 生成的內容，特別是影像和影片，以提升使用者的透明度。
該準則支持符合第 2024/1689 號歐盟條例第 50.2、50.4 和 50.5 條，重點在於標記 AI 生成或修改的內容。雖然浮水印的具體技術實施保持彈性，但目標是在不顯著降低使用者體驗的情況下確保內容真實性。
此公告標誌著歐盟規範生成式人工智慧的重要一步，影響主要科技公司部署模型的方式。它確立了業界通用的浮水印和標籤標準，可能會影響歐洲以外地區的 AI 部署策略。
事件背景
歐盟《人工智慧法案》是一套全面的人工智慧監管框架，旨在減輕與 AI 系統相關的風險。第 50 條特別針對 AI 生成內容的透明度，要求提供者確保內容可被檢測為人工生成或修改。浮水印是一種常見的技术方法，用於將此資訊無形地嵌入數位媒體中。
社群觀察
社群成員擔心浮水印可能會降低輸出品質，特別是對於程式碼生成和代理工作流程。用戶對浮水印的有效性也持懷疑態度，指出對抗模型可以輕鬆移除它們，這可能會推動對中國開源權重模型的採用。
