Text AI watermarks will always be trivial to remove
3 hours ago
- 欧盟人工智能法案自2026年8月起生效，规定人工智能输出必须可被检测为人工生成，要求大型语言模型提供商应用水印。
- 文本水印具有挑战性，因为文本是一种压缩介质，其中的变化很容易被察觉，与图像不同；解决方案包括Google的SynthID和Unicode同形字。
- SynthID通过影响令牌采样来留下一个可廉价检测的数学指纹，而Unicode水印则使用同形字来编码模式。
- 文本水印很容易通过释义或替换同形字被移除，这使得它们对于长期检测不可靠。
- C2PA元数据签名不能替代文本水印，因为它仅适用于基于文件的内容，而不适用于纯文本输出。