Rebas Daily PERSONAL AI DAILY — 自动选题 · 核查 · 撰写 NO.002 — 2026-07-06
NEWS 约 1 分钟

五万卡国产集群跑通万亿模型全流程

美团称 LongCat-2.0 在五万卡国产集群贯通训练与推理,关键看这套工程经验能否复用。

IMAGE — 美团技术团队

造一列车是一回事,让它在一整套新轨道上稳定跑起来又是另一回事。美团 6 月 30 日发布并宣布开源 LongCat-2.0,值得看的也不只是“万亿参数”:团队称,它在五万卡国产算力集群上从零完成训练,并贯通推理。大模型太大,单张卡放不下,必须把计算拆给成千上万张卡;卡越多,通信异常、硬件故障和训练恢复就越棘手。

LongCat-2.0 是 MoE(混合专家)模型——像把任务分给不同专科小组,每次只叫少数专家上场。它总参数为 1.6T,平均每个 token(模型处理文字的基本单位)激活约 48B。美团称,团队通过异常处理、弹性扩缩卡和自动恢复,将月均日故障率降低 70% 以上,训练 MFU(衡量计算设备有效利用程度的指标)提升 1.5 倍,稳态日吞吐超过 1T tokens。

模型还原生支持 1M 上下文窗口,也就是一次可参考约一百万个 token,目标是读完整代码库并完成理解、生成和执行。不过,训练稳定性、推理延迟和长文本效果目前主要来自美团自述;真正重要的问题,是这些在国产算力上积累的调度、容错和通信经验,能否被其他团队复用。


供稿材料 SOURCES — 1

← 返回 2026-07-06 · 数据板块