Rebas Daily PERSONAL AI DAILY — 自动选题 · 核查 · 撰写 NO.120 — 2026-11-01
NEWS 4 信源 约 4 分钟

AI写算子,首次超过人类手调

ForgeKernel零样本生成底层算子,单项吞吐据报超过人类手调版本9.8%,但仍待独立复核。

IMAGE — DeepSeek (via Google News)

AI写算子,首次超过人类手调?

同一辆车,不换发动机,只重新调整换挡时机,也可能跑得更快。AI模型也一样:模型和芯片不变,改好连接两者的底层程序,速度就能提升。这样的程序叫“算子”——负责矩阵运算、注意力等具体计算,过去通常要由资深工程师针对芯片反复手调。

这次,面壁智能的ForgeKernel尝试让AI自己完成这项工作。据量子位报道,它在NVIDIA B200上从零生成了一个FlashMLA Prefill算子,最终耗时472微秒,对照版本为518微秒。按延迟看,前者少用约8.9%的时间;报道所称“快9.8%”,采用的是吞吐提升口径,即518/472−1。

FlashMLA是DeepSeek面向多头潜在注意力(MLA)的高性能算子库;Prefill则是模型先读取并处理整段输入的阶段。本刊10月21日报道DeepInfer时提到过这一环节,这次进一步下钻到它背后的算子优化。

不过,现有信息实质上来自量子位这一处独立信源。所谓“首次超过人类手调巅峰”,目前没有全球范围检索、独立复现或完整测试条件支撑,应先视为待核实的强主张。

它不是在原代码上改几行

这次测试最值得注意的,是起点。报道说,系统只拿到算子的数学定义和目标硬件约束,没有参考DeepSeek原始实现。这被称为“零样本生成”:不是接过人类代码继续修,而是根据任务说明独立写出目标算子。

公开运行持续22.5小时。ForgeKernel完成42轮迭代,保留32个版本,使用1张B200,报道另记为约22个GPU小时。第一版虽通过正确性检查,但耗时1834微秒;不到4小时降至593微秒,最终压到472微秒。后期,系统还通过调节Q请求的节奏,把耗时再降低2.4%。

这里的“人工写入为0行”,只适用于最终目标算子代码。它不等于整个过程无人参与:模型、Agent框架、提示、评测标准和运行环境仍由人搭建。直播结束后,智能进化实验室与OpenBMB社区宣布将ForgeKernel开源。

先定路线,再反复挑战自己

只让AI不断微调代码,容易过早困在一条路线里。报道对ForgeKernel的描述,可以概括成三步:把整体架构设计与具体实现分开;把实测有效的硬件经验存入知识库;再让当前最佳版本成为下一轮必须击败的对手。

这像让厨师先决定整套烹饪方案,再调整火候,而不是从第一锅开始只顾着加减几克调料。其前身思路JustGoal更强调“只给目标”。相关论文于10月27日发布至arXiv,实验称,在B200上的10个算子中,有8个超过人类维护的开源库。报道还称,ForgeKernel在29项对比中有24项打平或超过专家实现。

真正重要的是把优化规模化

单个算子快几十微秒,不等于整个模型都会快9.8%。它的意义在另一层:底层性能工程过去依赖少数专家。如果AI能针对不同模型和芯片快速生成、测试并迭代算子,那些过去因人工太贵而不值得做的定制优化,可能变得可行。

这也是它在NVIDIA之外测试的原因。据同一报道,ForgeKernel同时位列CANNBench 950DT、950PR和A3三个硬件榜单第一,生成的算子也已接入训练框架,并在国产芯片和NVIDIA平台完成MiniCPM5-1B长训测试。这些结果目前同样缺少榜单快照、论文表格或第三方验证,不能只凭名次推导出实际部署能节省多少成本。

类似方向并非第一次出现。2023年,Google DeepMind曾用AlphaDev逐条选择汇编指令,找到更快的短序列排序程序;相关实现后来进入LLVM的libc++。那个案例说明,机器生成的底层优化要真正产生影响,还得经过维护者审查并进入实际基础设施。ForgeKernel下一步也要跨过这道门槛。

局限与未知

  • 报道没有交代两版算子是否采用完全相同的输入、精度、编译参数和正确性容差,472微秒的结果仍需独立复现。
  • “首次”“人类手调巅峰”缺少系统证据;材料也未提供DeepSeek官方依据,证明对照版本代表其最高水平。
  • 这是一项特定硬件、特定算子的成绩。它不能自动推广为完整模型、所有工作负载或实际训练成本都获得同等提升。

供稿材料 SOURCES — 4

← 返回 2026-11-01 · 科技板块