把尚未发表的论文、代码或构想交给聊天机器人润色,就像请一位外部助手看实验笔记:它很方便,但保密边界未必由你决定。据 Science 报道,研究者更担心的未必是模型逐字复述某段对话,而是服务商通过“聚合分析”——汇总大量用户对话寻找共同主题——看出某个冷门研究问题正接近突破。这类趋势本身就可能成为竞争情报。
风险取决于产品和合同。大学购买的企业账户通常禁止服务商用用户数据训练模型,但研究者仍要确认合同是否允许处理去标识化、匿名化或聚合信息。个人账户即使关闭训练用途,点赞或点踩反馈、安全审查和平台的数据保留规则也可能构成例外。可行的做法包括使用机构企业账户、关闭训练、避免提交反馈、项目结束后清理记录,或在条件允许时本地运行开放权重模型——把模型放在自己控制的设备上。报道同时提醒,没有任何设置能让外部聊天机器人完全私密;高度敏感的研究内容,最稳妥的边界仍是不上传。