Meta Andromeda:通过模型-系统协同设计驱动下一代广告检索

清风徐来行业资讯📡 BestBlogs·全站精选⭐ 922026-10-29574 阅读💛 216 收藏
Meta Andromeda:通过模型-系统协同设计驱动下一代广告检索

📌 One-Sentence Summary

Meta Andromeda 引入了一种协同设计的模型-系统架构,利用检索混合专家(MoE)在检索规模上实现接近排序级别的性能,单台 GPU 服务器每秒可处理超过 10 亿条广告。

📝 Summary

2026 年版 Meta Andromeda 代表了个性化广告检索领域的重大飞跃,其核心驱动力来自检索混合专家(MoE)架构的集成。该设计使系统能够将候选广告动态路由至专门的用户专家,实现高保真匹配,同时推理时的 FLOPs 相比 2024 年模型减少约 300 倍。端到端流水线完全融合到单块 GPU 上,消除了内存与网络瓶颈,并与 NVIDIA 合作优化,将吞吐量提升至每秒超过 10 亿条广告。

💡 Main Points

检索混合专家(MoE)架构

新模型架构用一组专门的专家替代了单一用户塔,从而能够捕捉多样化的用户兴趣和随时间演变的行为。交互层使用 MoE 门控网络将候选广告路由至最相关的专家,在保持高质量匹配的同时显著降低计算成本。

单 GPU 流水线协同设计

系统架构被整合为单条 GPU 流水线,索引匹配、打分和 top-K 选择共置于同一位置。这消除了主机之间大规模数据传输的需求,将网络流量减少约 100 倍,使系统能够在 GPU 计算受限的状态下运行,而不再受限于 I/O。

硬件优化与基准测试

与 NVIDIA 的合作优化了交互网络和索引匹配等各个组件,带来 2 倍至 5 倍的加速。完整流水线目前的基准测试结果达到当前生产吞吐量的数倍,表明未来模型增长仍有充足空间。

💬 Key Quotes

2026 年版 Meta Andromeda 通过两项创新将模型-系统协同设计推向新高度——一是将模型与系统工作负载按每次用户-广告交互融合的单一 GPU 内核,二是将按用户请求的逻辑与按用户-广告的 GPU 内核共置于单个 GPU 盒中的策略。

📊 Article Meta

AI Screening: 92

Featured: Yes

Source: Engineering at Meta

Author: Engineering at Meta

Category: 软件编程

Language: 英文

Read Time: 11 min

Word Count: 2555

Tags:

编程与工程 , 机器学习 , 系统设计 , 性能优化 , 后端开发

#编程与工程# 机器学习# 系统设计# 性能优化# 后端开发

文章评论(12)

蓝归舟17 天前

整理得太全面了,省了我不少时间。

回复
陈皮话梅糖17 天前

点赞,必须点赞

回复
雪知秋17 天前

看完了,收获满满,期待更多更新。

回复
雪影17 天前

看标题就点进来了,内容果然没让人失望。

回复
石佳琪17 天前

收藏了,以后慢慢研究。

回复
蓝归舟17 天前

看标题就点进来了,内容果然没让人失望。

回复
龙文博17 天前

支持作者,持续关注中。

回复
云逐月17 天前

赞同,实践出真知。

回复
龙文博17 天前

赞同,实践出真知。

回复
一个橘子17 天前

讲解得很细致,新手也能看懂。

回复
拾贝者17 天前

写得挺用心的,支持一下。

回复
墨沐雨17 天前

看完了,收获满满,期待更多更新。

回复