你有几间厨房,炉灶来自不同厂家,火力、尺寸和操作方式都不一样。真正困难的不是把炉子点着,而是把订单合理分过去,让整间餐厅持续出菜。国产 AI 算力正面对类似问题:芯片种类不少,但性能、内存和软件接口各异,零散资源很难合成一套高效系统。
7月17日,WAIC 2026期间,是石科技发布国产 Token 优化工厂“拓元(Vectron)”。这里的 Token,是模型处理和生成文字等内容的基本单位;所谓 Token 工厂,并不生产实体商品,而是把芯片、推理软件和调度系统组合起来,持续输出模型结果。
值得先说明:目前信息全部来自量子位对发布会的单篇报道,关键数字与技术效果均为公司及创始人闫博文的说法,尚无独立测试或第三方复现。
先把不同的卡编成一个池子
拓元的核心主张,是统一管理跨地域、多品牌的国产算力,再按任务分配资源并优化推理。跨芯片调度,就是在不同品牌或架构的加速器之间派发任务,同时处理性能、内存和软件接口的差异。
公司称,拓元兼容昇腾、昆仑芯、天数智芯、太初、瀚博半导体、摩尔线程、沐曦、燧原等10余种国产芯片,并适配20余个主流模型。系统会根据请求特征匹配计算链路,还会针对硬件优化算子——算子可以理解为模型计算中的基本操作——以提高并发和资源利用率。
这延续了我们此前观察到的变化。7月12日,本刊以曙光8000为例讨论过:国产算力的焦点正在从单卡性能,转向网络、存储、调度和应用适配。拓元进一步把问题落到异构环境:不同芯片不仅要“能用”,还要能被同一套系统调度。
长上下文为什么拖慢系统?
上下文是模型一次回答时能够参考的输入。内容越长,模型越需要保存中间计算结果。KV Cache 就像模型阅读长文时留下的草稿,能避免重复计算,但也会持续占用显存。
公司称,拓元会根据生成结果判断哪些缓存更重要,再压缩 KV Cache,以降低显存压力,并宣称不会牺牲模型效果。它还提出免训练的 Token 压缩方法,针对文本、视频和语音等不同输入筛选重点,减少不必要的计算。
这些能力指向同一个目标:推理优化。也就是通过缓存、并行、批处理等办法,减少模型生成每个 Token 所需的时间和成本。发布方称,拓元每日 Token 吞吐量达到千亿级。吞吐量衡量系统在一段时间里的总体产出,但不能说明单个用户要等多久,也不能直接代表输出质量。
拓元还涉及长上下文训练、记忆引导的重读、基于元奖励的奖励建模,以及面向智能体长程任务的目标导向记忆。公司宣称,部分方法能减少训练数据和人工反馈,并让系统持续优化。不过报道没有给出论文、基准指标或消融实验,这些说法暂时更适合视为技术主张,而非已经验证的结论。
真正值得看的,是工程路径
是石科技成立于2021年,创始团队源自清华大学计算机系。公司称已持续运营万卡级国产集群,并服务超过200家重点客户。这个经历至少解释了拓元为何把重点放在调度、适配和推理效率,而不是再发布一张芯片参数表。
如果说国产算力的第一步是让芯片和集群跑起来,下一步就是把不同硬件转成稳定、可计量的服务产出。拓元值得关注,也正在于它把竞争单位从“有多少卡”改成了“能持续产出多少有效 Token”。不过,这条工程路径是否真正成立,仍要靠透明测试来回答。
局限与未知
- “10余种”芯片只明确列出8个品牌,完整清单、具体型号和适配层级均未披露。
- 千亿级日吞吐量没有说明对应单一集群、累计资源池还是客户总量,也缺少模型、硬件、并发、延迟和输入输出比例,无法横向比较。
- KV Cache 压缩、长上下文训练和奖励建模均未提供论文或实验数据;它们究竟是已量产能力、研究成果集合,还是产品路线图,暂不清楚。