面向自主智能体的开放基础设施加入 CNCF

📌 One-Sentence Summary
Google 将 Agent Substrate、gVisor 和 OpenRL 捐赠给 CNCF,旨在打造可大规模运行自主 AI 智能体的开放基础设施栈,实现跨 CPU、GPU 和 TPU 的隔离式高效执行,并将容器密度提升 10x。
📝 Summary
本文宣布,Google 将三个开源项目——Agent Substrate、gVisor 和 OpenRL——捐赠给云原生计算基金会(CNCF),以构建面向自主 AI 智能体的开放基础设施栈。Agent Substrate 1.0 现已在 GKE 上正式发布;它通过快照和恢复机制,将有状态的智能体会话与活跃计算资源解耦,可在 500ms 内完成恢复,并将容器密度提升 10x。gVisor 为不可信的智能体代码提供轻量级用户空间内核隔离,以容器密度运行,并支持原生 GPU、TPU 和快照功能。OpenRL 借助简单的 Python 基元,在 Kubernetes 上实现自托管强化学习后训练循环,并与 llm-d 集成,以高效利用加速器。此次捐赠旨在为智能体工作负载建立中立治理机制,推动其在不同云平台和硬件平台上的普及。
💡 Main Points
Agent Substrate 将智能体状态与计算资源解耦,使容器密度提升 10x
该系统使用 Actor 保存智能体记忆和身份,使用 Worker 作为可复用的执行沙箱,并通过 Gateway 进行访问控制。空闲智能体会被快照保存到存储中,并在 500ms 内恢复,从而高效运行数百万个沙箱。
gVisor 为智能体生成的不可信代码提供轻量级内核隔离
gVisor 位于容器与主机操作系统之间,在用户空间拦截系统调用,防止不可信代码直接访问主机内核,同时保持容器密度,并支持 GPU、TPU 以及快照和恢复。
OpenRL 支持在 Kubernetes 上自托管强化学习后训练
OpenRL 使用四个简洁的 Python 基元(sample、forward_backward、optim_step、save_state),通过 Kubernetes DRA 编排强化学习任务,并与 llm-d 集成,实现基于前缀的 rollout 路由,以及训练和采样之间的 GPU 时间切片。
向 CNCF 捐赠项目,为智能体基础设施建立与厂商无关的治理机制
将这些项目纳入 CNCF Sandbox,有助于推动社区主导的开发、建立中立治理机制并扩大行业参与度,其影响可类比 Kubernetes 对容器编排领域的变革。
💬 Key Quotes
「随着 AI 从人的规模转向智能体的规模,从记录系统转向行动系统,并从简单请求转向复杂的智能体工作流,平台底层承载的工作负载也将彻底改变。」
「Agent Substrate 将有状态的智能体会话和身份与活跃计算资源解耦,把空闲智能体快照保存到存储中,并在 500 毫秒内恢复,从而以 10x 的容器密度运行数百万个沙箱。」
「与预先分配固定内存块的虚拟机不同,gVisor 保留了容器进程模型,内存可随工作负载扩缩,让每个节点容纳更多智能体,并降低单个智能体的成本。」
「OpenRL 将简洁的自托管 Python 后训练循环直接引入 Kubernetes 集群,并提供简单的 Python 基元,以及可插拔的训练和采样引擎。」
📊 Article Meta
AI Screening: 88
Source: Google Cloud Blog
Author: Drew Bradstock
Category: 人工智能
Language: 英文
Read Time: 8 min
Word Count: 1982
Tags:
AI 与智能应用 , 强化学习 , 开源项目 , AI Agent , 安全
内容翔实,正好需要,先收藏再看。
内容翔实,正好需要,先收藏再看。
内容翔实,正好需要,先收藏再看。
看完了,收获满满,期待更多更新。
看标题就点进来了,内容果然没让人失望。
支持作者,持续关注中。
这个观点很中肯,深有同感。
看标题就点进来了,内容果然没让人失望。
楼主辛苦了,内容很有参考价值。
这篇文章分析得很透彻,收藏了!
作者写得真不错,学到了不少。
写得挺用心的,支持一下。