如果要在公司内部做一个专用 AI,开发者通常不想从零训练,而会找一块能力不错的“毛坯房”继续装修。百度 11 月 5 日开源的 ERNIE 5.5 Flash Base 正是这种基座模型——完成了大规模预训练,但还不是可直接对话的成品。
它采用 MoE(混合专家)架构:总参数量为 2800 亿,但处理每个 Token——模型切分文字的基本单位——时只激活 140 亿参数,像是每道题只请最合适的一组专家作答。百度称,模型用 33.5 万亿 Token 预训练,训练阶段上下文最长 128K,微调和推理阶段可扩至 100 万 Token。开放权重意味着社区可以下载、本地部署和微调,但不等于训练数据与完整代码也全部公开。
据 OrcaRouter 对百度评测表的整理,模型在 MMLU、GPQA、HumanEval+ 等多项知识、推理和代码基准上领先同量级基座模型,例如 MMLU 得分 93.3;但也在 ChineseSimpleQA、InfiniteBench 等项目上落后。现有成绩主要来自百度自己的评测,真正值得继续看的,是社区能否复现这些优势,以及它经后训练后能否变成稳定好用的助手或 Agent。