网站若不希望内容被拿去训练AI,过去往往要给不同公司分别“写拒绝信”。OpenAI于10月30日宣布,将遵守robots.txt中的一项共享信号。robots.txt是网站根目录里的机器可读规则文件,用来告诉自动爬虫哪些内容可以访问;新信号则让运营者统一声明,内容能否用于基础生成式AI训练,并面向多个参与的AI提供商生效。
这值得关注,因为网站内容授权可能由各家各设入口,逐步走向一套更通用的表达方式。该方案来自IETF——讨论和制定互联网技术标准的开放组织——旗下AI Preferences工作组的持续讨论。OpenAI也呼吁其他AI提供商采用。不过,这仍是自愿安排:OpenAI称将在未来数月实施,具体细节稍后公布,并非已经全面上线。共享信号也不会取代现有的爬虫控制;而robots.txt表达的是网站偏好和规则,本身并不是访问控制或数字版权管理系统。