借助新一代 AgentCore 运行时,安全高效地运行智能体 | Amazon Web Services

空逐月AI 前沿📡 BestBlogs·AI高分精选⭐ 922026-11-1384 阅读💛 221 收藏
借助新一代 AgentCore 运行时,安全高效地运行智能体 | Amazon Web Services

📌 One-Sentence Summary

本文宣布推出新一代 Amazon Bedrock AgentCore 运行时,通过硬件隔离的 Firecracker 微型虚拟机,实现快 15 倍的启动速度、4 倍的计算能力和高 68% 的效率,让 AI 智能体能够安全、规模化地运行。

📝 Summary

本文介绍了 Amazon Bedrock AgentCore 运行时的更新,旨在解决 AI 智能体规模化部署中的安全、性能和成本挑战。主要改进包括:为每个会话提供硬件隔离的 Firecracker 微型虚拟机,并配备专属身份、策略和审计记录;启动速度最高提升 15 倍(不到 2 秒);计算能力提升 4 倍(最高支持 8 个 vCPU 和 32 GB RAM);资源利用效率提高 68%;以及通过支持 S3/FUSE 的动态文件系统挂载增强数据隔离。运行时现在可以快速回收内存、将空闲会话缩减至零,并提供承诺基准定价,使成本更可预测。Coinbase、Zuora、Okta、Cox Automotive 和 Thomson Reuters 的客户评价证实,这些改进能够提升生产环境中 AI 智能体部署的延迟表现、成本效率和安全性。

💡 Main Points

新一代 AgentCore 运行时提供硬件隔离的执行环境,启动速度快 15 倍、计算能力提升 4 倍、效率提高 68%。

每个会话都运行在独立的 Firecracker 微型虚拟机中,并拥有专属身份、策略和审计记录。会话现在最高支持 8 个 vCPU 和 32 GB RAM,无论镜像大小如何,都能在不到 2 秒内启动,同时显著提升资源利用效率。

增强的数据隔离能力允许智能体在信任边界内挂载外部存储,并将工作成果保存到外部存储。

智能体可以动态挂载带有 FUSE 支持的文件系统,例如 Amazon S3,让数据在整个任务执行过程中始终处于安全边界内。这样无需团队自行构建数据传输规则,也能降低复杂性和风险。

按使用量计费并回收内存,可降低存在自然停顿的多轮智能体的成本。

运行时会在内存释放后的几分钟内将其回收,并将空闲会话缩减至零。对于持续运行的智能体,承诺基准定价可按 AWS Lambda 微型虚拟机的价格提供可预测的费率,并可根据需求突发扩展至基准容量的 4 倍。

客户部署案例验证了运行时在延迟、成本效率和安全性方面的改进。

Coinbase、Zuora、Okta、Cox Automotive 和 Thomson Reuters 的客户评价显示,冷启动速度提升 35-77%、单次调用成本降低 17%、内存占用减少 60%;同时,企业无需承担基础设施管理开销,也能安全地扩展自主工程智能体。

💬 Key Quotes

「AgentCore 运行时让我们能够大规模开展 AI 驱动的开发。每个编码智能体会话都运行在独立的硬件隔离环境中,这对于执行代码的智能体至关重要。运行时能够随需求弹性扩展,每次都能快速启动,因此工程师可以快速推进工作,无需管理任何基础设施。」

「新一代 Amazon Bedrock AgentCore 运行时通过加快智能体启动速度并更高效地利用内存,帮助我们提供响应更迅速的 AI 体验。让资源消耗与实际用量相匹配,使客户更有信心扩展智能体解决方案,同时确保成本与真实需求挂钩。」

「在许多使用场景中,新一代 AgentCore 运行时将我们每次调用的内存占用减少了约 60%,同时还能处理更多流量并保持稳定的延迟。随着我们在整个部署平台中扩展智能体工作负载,这让我们的成本结构更具优势。」

📊 Article Meta

AI Screening: 92

Source: AWS Artificial Intelligence

Author: Madhu Parthasarathy

Category: 人工智能

Language: 英文

Read Time: 8 min

Word Count: 1785

Tags:

AI 与智能应用 , 安全 , 性能优化 , AI Agent , Prompt缓存

#AI 与智能应用# 安全# 性能优化# AI Agent# Prompt缓存

文章评论(12)

雪影2 天前

这个观点很中肯,深有同感。

回复
郭超3 天前

收藏了,以后慢慢研究。

回复
青柠微凉3 天前

写得挺用心的,支持一下。

回复
武磊3 天前

实话,说的不明不白

回复
杨丽华2 天前

有没有更详细的教程,期待后续。

回复
逐光而行2 天前

写得挺用心的,支持一下。

回复
风拾光2 天前

这个观点很中肯,深有同感。

回复
风倚栏2 天前

这个比较实用,已转发给同事。

回复
石佳琪2 天前

楼主辛苦了,内容很有参考价值。

回复
空向阳2 天前

赞同,实践出真知。

回复
墨向阳2 天前

有没有更详细的教程,期待后续。

回复
晨沐雨2 天前

支持作者,持续关注中。

回复