Meta 的生成式广告模型（GEM）：为前沿广告 AI 扩展中央模型与计算引擎

📌 One-Sentence Summary

GEM 2026 将 Meta 的广告预测统一到一个模型中，覆盖所有界面和目标，并利用 LLM 规模的计算和后训练技术，实现了显著的性能提升，同时保持低延迟。

📝 Summary

GEM 2026 摒弃了以往针对每个领域的孤立优化，转而采用一个中央基础模型，该模型学习来自 Meta 所有广告平台的综合数据。其利用 LLM 规模的计算来拓展性能曲线，并通过后训练技术取得强劲的广告主成果，而无需为所有广告候选者进行实时评估。该结果在每个界面和漏斗阶段均实现了广告性能提升，并且更深入地理解了如何将广告与用户的需求进行匹配。

💡 Main Points

通过昆仑架构弯曲性能曲线

GEM 引入了昆仑架构，该架构呈现出类似 LLM 的扩展规律，即模型性能会随着计算、参数和数据量的增加而可预测地提升。这使得模型复杂度相比之前提高了 2.5 倍，从而能够处理更长的用户参与历史和更复杂的交互。

高效的知识转移与后训练

为了避免在实时推理中使用庞大模型带来的高延迟和高成本，GEM 使用结构化表征和 LoopFM 将内部知识转移到更小、更快的下游模型。这种方法将智能转移率提高了一倍，而不会增加服务基础设施的计算负担。

统一的跨界面、跨领域优化

GEM 作为中央计算引擎，可以同时预测 Meta 所有界面（Facebook、Instagram、Reels）以及不同目标的点击和转化。这种统一的方法允许将从数据丰富的点击任务中学到的经验转移到数据稀少的转化任务，从而提高整体的广告性能。

LLM 规模的高效训练

GEM 的训练过程已经针对在数千个 GPU 上运行进行了优化。通过开发定制内核和新的并行策略，端到端的训练效率翻倍达到了 20-25% 的模型 FLOPS 利用率，从而能够以与前沿 LLM 相媲美的规模进行训练。

💬 Key Quotes

GEM 在 Meta 的所有广告界面和目标上，实现了 18.9% 的转化率提升和 12% 的广告点击率（CTR）提升。

结构化表征 LoopFM 是一种最先进的后训练技术，它将 GEM 的内部表征和历史记忆序列转移到下游模型。

GEM 通过中央基础模型加速了一个统一的计算引擎，该引擎可以联合预测所有界面的点击和转化。

📊 Article Meta

AI Screening： 92

Featured： Yes

Source： Engineering at Meta

Author： Engineering at Meta

Category： 人工智能

Language： 英文

Read Time： 13 min

Word Count： 3126

Tags：

AI 与智能应用 , 后训练 , 推荐系统 , 模型训练与推理 , 性能优化