一段文字被标成“AI生成”，平台是否就该处罚作者？问题在于，AI水印并非肉眼可见的角标，而是藏在生成内容里的统计信号；检测工具会据此判断来源。它可以帮助追踪内容，却也可能漏掉AI作品，或把人类创作误判为AI生成。若可靠性只由开发公司内部测试，水印就很难成为可信的治理基础设施。
据 Nature 介绍，Weibin Hu与Xueru Zhang在2026年10月27日刊发的通信中，呼吁对水印系统进行独立、公开的审查，由开发者之外的团队检验其有效性和抗攻击能力。文章援引既有测试称，攻击者可通过反复查询模型，推断水印规律，进而移除真水印或伪造水印；相关攻击成本低于50美元，成功率约为80%。
作者因此主张，水印可以作为AI辅助生成内容的透明度信号，却不应单独充当认定不当行为的证据。说白了，治理不能只问“能否检出”，还要公开误报、漏报以及遭到攻击后的表现。