借助新一代 AgentCore 运行时,安全高效地运行智能体 | Amazon Web Services

📌 One-Sentence Summary
本文宣布推出新一代 Amazon Bedrock AgentCore 运行时,通过硬件隔离的 Firecracker 微型虚拟机,实现快 15 倍的启动速度、4 倍的计算能力和高 68% 的效率,让 AI 智能体能够安全、规模化地运行。
📝 Summary
本文介绍了 Amazon Bedrock AgentCore 运行时的更新,旨在解决 AI 智能体规模化部署中的安全、性能和成本挑战。主要改进包括:为每个会话提供硬件隔离的 Firecracker 微型虚拟机,并配备专属身份、策略和审计记录;启动速度最高提升 15 倍(不到 2 秒);计算能力提升 4 倍(最高支持 8 个 vCPU 和 32 GB RAM);资源利用效率提高 68%;以及通过支持 S3/FUSE 的动态文件系统挂载增强数据隔离。运行时现在可以快速回收内存、将空闲会话缩减至零,并提供承诺基准定价,使成本更可预测。Coinbase、Zuora、Okta、Cox Automotive 和 Thomson Reuters 的客户评价证实,这些改进能够提升生产环境中 AI 智能体部署的延迟表现、成本效率和安全性。
💡 Main Points
新一代 AgentCore 运行时提供硬件隔离的执行环境,启动速度快 15 倍、计算能力提升 4 倍、效率提高 68%。
每个会话都运行在独立的 Firecracker 微型虚拟机中,并拥有专属身份、策略和审计记录。会话现在最高支持 8 个 vCPU 和 32 GB RAM,无论镜像大小如何,都能在不到 2 秒内启动,同时显著提升资源利用效率。
增强的数据隔离能力允许智能体在信任边界内挂载外部存储,并将工作成果保存到外部存储。
智能体可以动态挂载带有 FUSE 支持的文件系统,例如 Amazon S3,让数据在整个任务执行过程中始终处于安全边界内。这样无需团队自行构建数据传输规则,也能降低复杂性和风险。
按使用量计费并回收内存,可降低存在自然停顿的多轮智能体的成本。
运行时会在内存释放后的几分钟内将其回收,并将空闲会话缩减至零。对于持续运行的智能体,承诺基准定价可按 AWS Lambda 微型虚拟机的价格提供可预测的费率,并可根据需求突发扩展至基准容量的 4 倍。
客户部署案例验证了运行时在延迟、成本效率和安全性方面的改进。
Coinbase、Zuora、Okta、Cox Automotive 和 Thomson Reuters 的客户评价显示,冷启动速度提升 35-77%、单次调用成本降低 17%、内存占用减少 60%;同时,企业无需承担基础设施管理开销,也能安全地扩展自主工程智能体。
💬 Key Quotes
「AgentCore 运行时让我们能够大规模开展 AI 驱动的开发。每个编码智能体会话都运行在独立的硬件隔离环境中,这对于执行代码的智能体至关重要。运行时能够随需求弹性扩展,每次都能快速启动,因此工程师可以快速推进工作,无需管理任何基础设施。」
「新一代 Amazon Bedrock AgentCore 运行时通过加快智能体启动速度并更高效地利用内存,帮助我们提供响应更迅速的 AI 体验。让资源消耗与实际用量相匹配,使客户更有信心扩展智能体解决方案,同时确保成本与真实需求挂钩。」
「在许多使用场景中,新一代 AgentCore 运行时将我们每次调用的内存占用减少了约 60%,同时还能处理更多流量并保持稳定的延迟。随着我们在整个部署平台中扩展智能体工作负载,这让我们的成本结构更具优势。」
📊 Article Meta
AI Screening: 92
Source: AWS Artificial Intelligence
Author: Madhu Parthasarathy
Category: 人工智能
Language: 英文
Read Time: 8 min
Word Count: 1785
Tags:
AI 与智能应用 , 安全 , 性能优化 , AI Agent , Prompt缓存
这个观点很中肯,深有同感。
收藏了,以后慢慢研究。
写得挺用心的,支持一下。
实话,说的不明不白
有没有更详细的教程,期待后续。
写得挺用心的,支持一下。
这个观点很中肯,深有同感。
这个比较实用,已转发给同事。
楼主辛苦了,内容很有参考价值。
赞同,实践出真知。
有没有更详细的教程,期待后续。
支持作者,持续关注中。