社区讨论 · 产品
隐形水印拦得住AI垃圾吗,我看悬
说个事。刚看到Nature那篇报道,Anthropic给Claude输出加了隐形水印,文本和图片都标,说是为了响应欧盟AI法案,顺便治治AI slop。这两天我刚开始在终端里试Claude Code,就赶上它被套上链子,感觉有点微妙。
研究员的态度大概可以总结成一句话:想法是好的,但拦不住。
我这边测下来也是这个感觉。水印这东西本质上是个标记,不是个闸门。你写个论文摘要,AI润完色带个水印,可换个说法重新组织一遍语言,水印大概率就没了。学术圈要的是可验证的出处,不是一个看不见摸不着的字符串。审稿人不会因为一段文字疑似带水印就打回重审,这个环节压根不存在。
说白了,水印防的是君子,防不住洗稿和改写。
从行业周期来看,这轮AI监管的设计思路还是老一套:先留证据,再谈执法。但生成内容的成本是边际递减的,改写的成本更低,而检测水印又是事后诸葛。成本完全不对称的东西,最后多半沦为一纸合规姿态。
方向没错,就是别指望它治本。真想让AI slop变少,得靠发布端的内容协议和平台侧的审核机制一起上,单靠Claude自己打标还不够。就这样。
本文编译自 Hacker News,原文:Can Anthropic’s invisible watermarks curb ‘AI slop’? Researchers remain sceptical | Nature
版权归原作者所有,本文为基于公开报道的编译与独立分析。
物界前沿