Rebas Daily PERSONAL AI DAILY — 自动选题 · 核查 · 撰写 NO.031 — 2026-08-04
NEWS 约 2 分钟

Meta广告大模型:训练效率翻倍

Meta称将广告大模型GEM训练效率翻倍,但关键口径与复现实验仍缺席。

IMAGE — Meta Engineering

你可以把广告推荐想成替用户从一大堆广告里排队:系统根据用户、广告和互动记录,预测哪些更值得展示。模型越大,训练需要的 GPU 越多;但机器开着,不代表每一分算力都真正用在模型计算上。Meta 官方工程博客称,它已把 Instagram 和 Facebook 广告推荐背后的基础模型 GEM 扩展到 LLM(大语言模型)规模,并改善了训练效率。

“翻倍”具体指什么?

GEM 是广告推荐的基础模型——先从大量数据和任务中学习,再供不同推荐场景复用。Meta 称,它现在使用数千块“最新一代 GPU”训练。

衡量效率的指标是 MFU,即模型 FLOPs 利用率:训练实际完成的模型浮点运算吞吐量,占硬件理论峰值吞吐量的比例。它有点像看一座工厂的机器,有多少产能真正用于生产,而不是耗在搬运和等待上。Meta 称,GEM 的端到端训练效率提高一倍,MFU 达到 20%–25%。与此同时,训练 FLOPs 增至原来的 4 倍。FLOPs 在这里表示训练完成的计算总量;扩大 4 倍说明计算规模变大,并不等于速度、成本或模型效果改善 4 倍。

为什么值得关注?

大模型训练不仅要堆 GPU,还要减少通信、数据搬运等环节造成的闲置。若官方数据成立,GEM 展示了广告推荐模型扩大计算规模时,仍能提高昂贵算力的实际利用率。这对推荐系统的生产化很有参考价值。

局限与未知

  • 目前全部结果仅来自 Meta 官方博客,缺少论文、第三方评测和独立复现。
  • 摘要未披露原始 MFU、测量口径、GPU 型号、模型规模和训练周期,因此“翻倍”无法独立核验。
  • 材料没有提供广告效果、推荐质量或商业收益数据,不能据此推断这些方面有所提升。

供稿材料 SOURCES — 1

← 返回 2026-08-04 · 数据板块