为什么 LLM 推荐系统将成为 AI 最大的消费级应用 — Devansh Tandon,Meta

📌 One-Sentence Summary
Meta 推荐研究负责人 Devansh Tandon 论证推荐系统遵循与 LLM 相同的幂律扩展,梳理四条范式 S 曲线与双语 LLM 推荐器的语义 ID 配方,并主张因其解码内容指针在结构上远比聊天 token 生成便宜,将成为 AI 最大的消费级应用。
📝 Summary
曾任职 DeepMind 与 YouTube、现领导 Meta 推荐研究的 Devansh Tandon,在 LM Recsys 专场开场提出两点主张:推荐系统像 LLM 一样随规模扩展且仍处曲线早期,以及 LLM 推荐器将成为 AI 最大的消费级应用之一。他描绘 tokens 进、互动出的飞轮——训练、推理、拉动 DAU 与使用时长,再经广告或订阅变现并资助下一轮训练——并以 Meta 证据锚定:HSTU 扩展论文、Instagram Reels 观看时长同比提升 30%,以及互动序列长度与丰富度翻倍。他接着框出行业并行攀爬的四条 S 曲线:传统双塔特征与嵌入系统;HSTU、OneRec 等受 LM 启发的端到端扩展派(当前领先者所在);TIGER、PLUM 等对推理基座模型的 LLM 原生适配;以及像编程 harness 一样规划、检索、排序并批判的智能体闭环。构建配方是五层蛋糕——将约三分钟的 Reel 从约 10,000 个 token 压缩到约 10 个的语义 ID、基座 LLM、打通英语与推荐 token 的预训练、面向互动与排序的后训练,再到轻量表面微调——从而跨产品面共享算力,并支持可检视的思维链重排。双语理解解锁可操控产品,如 Instagram Your Algorithm、Spotify 提示式歌单、YouTube 自定义信息流与 Ask DoorDash。经济论证收尾处,他对比解码语义 ID 指向创作者内容的 1–10B 级信息流模型,与必须生成每一个 token 的 10–100B 级聊天模型,称信息流每小时互动成本最高可低约 100 倍,因而是结构上更省 token 的消费级 AI 界面。
💡 Main Points
推荐系统遵循类 LLM 的幂律扩展,以及 tokens 进、互动出的飞轮
按 HSTU 路径扩大模型规模、算力与数据,可同时抬升离线质量与线上互动;Meta 将 Instagram 序列长度与丰富度翻倍,Reels 观看时长同比提升 30%,变现再资助下一轮训练闭环。
行业正并行攀爬四条推荐范式 S 曲线
多数系统仍跑传统双塔排序;领先者落在 HSTU、OneRec 等受 LM 启发的端到端扩展派;下一阶是 TIGER、PLUM 等 LLM 原生适配;像编程 harness 一样的规划—检索—排序—批判智能体闭环正在涌现。
LLM 推荐器配方:语义 ID、双语训练,再解码与排序
将内容 tokenize 为稳定压缩的 SID(Reel 约 10 个 token,相对约 10k),预训练基座 LLM 以打通英语与推荐域语言,后训练做互动预测与思维链重排,再按产品面轻量微调以共享算力。
双语模型解锁可操控、可解释的推荐产品
用户可用自然语言与算法对话——Instagram Your Algorithm、Spotify 提示式歌单、YouTube 自定义信息流、Ask DoorDash——从黑盒信息流转向可控、可解释、超越点赞的目标。
LLM 推荐器在结构上比 AI 聊天更省 token
信息流用 1–10B 模型发出指向免费创作者供给的 SID 指针,聊天应用则从 10–100B 模型解码成千上万个 token;信息流每小时互动成本最高可低约 100 倍,因而成为重要的消费级 AI 界面。
💬 Key Quotes
我今天想提出两个大观点:推荐系统像 LLM 一样扩展,而且该领域仍处在这条扩展曲线的很早期;以及 LLM 推荐器将成为 AI 最大的消费级应用之一。
我想引入飞轮的概念:tokens 进,互动出。正是它在驱动这些推荐模型的扩展。
首先,把内容 tokenize,为你的领域创建一种语言。然后适配 LLM,让它同时理解英语与你的领域语言,成为双语模型。
内容信息流可比 AI 聊天应用便宜最多约 100 倍甚至更多,因为它们解码的是指向内容的指针,而不是内容本身。
我认为我们会看到从黑盒推荐算法,转向让用户拥有更多控制、更可交互、更可操控的系统。
📊 Article Meta
AI Screening: 90
Featured: Yes
Source: AI Engineer
Author: AI Engineer
Category: 人工智能
Language: 英文
Read Time: 10 min
Word Count: 2297
Tags:
AI 与智能应用 , 推荐系统 , 大语言模型 (LLM) , 消费与零售 , AI研究前沿
Play Full Video
作者写得真不错,学到了不少。
收藏了,以后慢慢研究。
赞同,实践出真知。
内容翔实,正好需要,先收藏再看。
不错不错,已加入书签。
写得挺用心的,支持一下。
讲解得很细致,新手也能看懂。
看完了,收获满满,期待更多更新。
这个观点很中肯,深有同感。
有没有更详细的教程,期待后续。
写得挺用心的,支持一下。
讲解得很细致,新手也能看懂。