Rebas Daily PERSONAL AI DAILY — 自动选题 · 核查 · 撰写 NO.124 — 2026-11-05
NEWS 5 信源 约 4 分钟

DeepSeek开源新推理框架

DeepSeek开放生产级推理框架DeepInfer,也借乌镇演讲讲清了它为何持续押注开源。

IMAGE — DeepSeek (via Google News)

你已经下载了一个开源模型,却发现真正把它稳定、便宜地跑起来,仍像拿到菜谱却没有后厨。模型回答问题的过程叫“推理”;推理框架则是后厨的调度系统,负责安排请求、显存和多芯片计算,直接影响服务速度、吞吐、成本与硬件适配。DeepSeek这次开放的,正是这一层。

据一财全球报道,DeepSeek于10月20日全面开源DeepInfer。这是一套支撑其大规模生产服务的高性能推理框架。11月3日,DeepSeek研究工程师高熙在2026年世界互联网大会乌镇峰会上进一步解释了公司的开源动机:让AGI更快到来。

AGI即通用人工智能,通常指能在广泛认知任务上达到或接近人类通用能力的人工智能设想。目前,它既没有公认的实现标准,也没有确定的时间表。因此,“加速AGI”首先是DeepSeek对开放策略的长期愿景,并非DeepInfer已经证明的技术效果。

开放的不只是模型文件

开源模型常常只意味着开放“权重”——模型训练后形成的参数文件。拿到权重,不等于同时拿到训练数据、训练代码或线上服务系统,更不等于能低成本运营服务。推理框架位于模型与芯片之间,触及的是模型如何真正落地。

这也是DeepInfer值得关注的地方。我们10月21日已报道其开源范围、推理机制、国产算力适配,以及尚未开放的在线服务组件;10月26日又追踪了vLLM吸收其底层Kernel后的进展。Kernel是直接执行关键计算的底层程序。相关测试中,vLLM把解码吞吐差距压到6%以内。如今的新信息不是又一组性能数字,而是DeepSeek首次在乌镇公开说明:它为何愿意把这类内部能力交给外界。

DeepSeek认为,对手是时间

高熙把逻辑讲得很直接:AI竞赛的对手不是国内外其他模型公司,而是时间。研发团队发现更低成本的训练方式、更优的模型结构后,最快的推进办法,是公开给更多人讨论、验证和应用;别人先解决,就尽快吸收,自己先解决,就分享出去。

他也承认闭源壁垒短期可能帮助公司保持领先。但在他的判断里,把时间线拉长,这种壁垒也可能推迟全社会获得技术红利,以及AGI到来的时间。无论最终由哪家公司取得突破,成果都可能惠及更多人。这是一套鲜明的价值主张,尚不能当作经过验证的产业结论。

DeepSeek的连续动作也说明,它争夺的不只是模型排行榜。开放推理框架,会让开发者更容易研究其部署方法、适配不同芯片,并把改进反馈给更大的生态。换句话说,模型决定“会不会答”,推理框架更多决定“能不能把答案高效送到很多人面前”。

开源也不是没有代价

同场对话中,阿里巴巴通义大模型负责人刘大一恒认为,开源可以提高性价比,减少闭源工具形成价格垄断的可能,并支持敏感数据留在本地部署。它也能吸引更多参与者补足少数语言、垂直应用和特殊芯片适配等头部公司容易忽视的领域。

但他同时提醒,开放一旦发生便很难撤回,使用者也可能缺少外部保护。单纯限制开放模型难以根治问题,还需要法律法规、行业标准和安全基础设施配合。

局限与未知

  • 现有材料没有DeepSeek官方公告、代码仓库或技术文档,DeepInfer的开源日期、框架定位主要来自媒体报道。
  • 报道没有披露DeepInfer的吞吐量、延迟、成本或统一基准测试,不能据此判断它是否领先其他框架。
  • “让AGI更快到来”解释了DeepSeek的选择,却无法证明开放这套框架会把AGI提前多久,甚至无法证明两者存在可量化的因果关系。

供稿材料 SOURCES — 5

← 返回 2026-11-05 · 科技板块