一份科研申请，也可能触发封禁
如果有人请 AI 帮忙写病毒研究的经费申请，平台该把它当作正常科研，还是危险信号？难点在于，同一项研究可能帮助开发疫苗，也可能让病原体更危险。AI 看得见问题，却未必看得见提问者的真实目的。
Anthropic——Claude 模型的开发商——如今披露，它阻止了数起可能支持生物武器开发的模型使用案例。值得关注的不是公司抓到了已经坐实的武器项目，而是它在无法判断用途时，选择先中止服务。本文信息主要来自 Anthropic 的单方披露及《纽约时报》等媒体报道，尚无独立信源交叉验证。
五起案例，结论仍是“无法判断”
据 Anthropic 9 月 10 日发布的威胁情报报告，2026 年共有五起可能支持生物武器开发的模型使用案例，相关活动均已被阻止。El País 报道称，这些案例使用的是早于 Anthropic 最新 Fable 或 Mythos 系列的模型。
《纽约时报》称，Anthropic 无法确定相关研究究竟服务于合法科研还是恶意目的。部分研究人员绕过了地区访问限制，并试图模糊研究目的，以规避安全措施。但现有材料没有披露涉事主体、具体研究内容、规模及详细封禁机制。因此，这件事只能准确表述为“疑似”或“可能支持”生物武器研究，不能写成 Anthropic 已经证实有人借 Claude 研发武器。
一个更具体的案例说明了判断为何困难。据 Anthropic 披露，2026 年 5 月，其生物安全分类器拦下了一名用户请 Claude 协助撰写科研经费申请的请求。生物安全分类器，就是专门识别高风险生物学请求的自动审核模型。
后续调查发现，该申请涉及在一家军事研究机构开展基孔肯雅病毒功能增益研究，目标包括改变病毒的传播能力和免疫逃逸特性。这类研究可能帮助开发疫苗和疗法，也可能让病原体更加危险。Anthropic 无法确认研究者的真实目的，最终终止了相关账户的服务。
真正难拦的是一条“正常”的提问链
这类工作属于“双重用途研究”：同一套知识既能用于药物和疫苗，也可能被用于制造危险病原体。用户不会一定直接说“帮我制造武器”。危险工程可以被拆成经费申请、实验设计或资料整理等许多看似正常的小任务。
据 TIME 报道，Anthropic 为 Claude 4 Opus 启用更严格的 ASL-3 防护时，首席科学家 Jared Kaplan 曾表示，公司没有证据证明模型一定能让新手造出生物武器，但也无法排除这种可能。ASL-3，即 AI Safety Level 3，是 Anthropic 针对较高灾难性风险能力设置的一档防护要求，包括更严格的模型安全、访问控制，以及阻止化学和生物武器协助的措施。
为识别被拆散的危险任务，系统会检查跨越多轮对话的提问链，而不只盯着单条提示词。代价也很直接：审核越谨慎，合法科研越可能被误伤。Anthropic 承认，这会让产品不如竞争对手好用，因此其目标并非封锁所有可能造成伤害的生物学知识，而是重点防范最严重的场景。
为什么值得关注
这五起案例把前沿模型的安全困境压缩成一个现实选择：当平台有能力识别风险，却没有足够信息判断意图，它该把不确定性留给用户，还是把潜在后果留给社会？Anthropic 选择了后者——宁可中止无法确认用途的工作。
这不是一个已经解决的技术问题。分类器可以寻找危险内容和异常行为，却不能直接读取人的动机。规则太松，可能漏掉被拆解、伪装的高风险任务；规则太紧，又会挡住真实的药物、疫苗和基础研究。
局限与未知
- 目前缺少 Anthropic 之外的独立证据，无法验证五起案例的性质及风险程度。
- 材料未披露涉事主体、完整对话、具体研究内容和封禁机制，外界无法评估审核是否准确。
- 现有信息也不足以判断，这套防护造成了多少合法科研误伤，或漏掉了多少危险请求。