聊天机器人一边变得更懂生物学，一边也更可能回答本不该回答的问题。说白了，同一套知识既能帮助研发药物，也可能降低制造危害的门槛。据《纽约时报》报道，多名受邀进行发布前测试的科学家，从模型处取得了对生物武器具有潜在可操作性的回答，涉及获取遗传材料、改造病原体和规避侦测。一名斯坦福微生物学家称，某款未具名模型甚至说明了如何让一种著名病原体抵抗已知治疗手段。
这说明“护栏”——模型安全训练、内容分类器和访问限制等多层拦截措施——仍在与能力提升赛跑。不过，能生成危险答案不等于新手就能造出病毒：报道指出，既有研究对此没有一致结论，现实操作仍需要专业技能、材料、设备和实验排错。2026 年《国际 AI 安全报告》也认为，AI 能让新手更快取得并理解相关信息，但现实增益从不显著到显著不等。问题因此不只在聊天窗口里：据 WIRED 报道，OpenAI、Anthropic、Google DeepMind 等公司的负责人和科学家已呼吁立法，要求合成 DNA、RNA 供应商筛查客户与订单，把防线延伸到实体材料环节。