使用 CDK 在托管式 Amazon Bedrock 知识库上构建智能体检索 | Amazon Web Services

AI小蝌蚪AI 前沿📡 BestBlogs·AI高分精选⭐ 872026-10-27603 阅读💛 223 收藏
使用 CDK 在托管式 Amazon Bedrock 知识库上构建智能体检索 | Amazon Web Services

📌 One-Sentence Summary

AWS 演示了如何使用托管式 Amazon Bedrock 知识库、AgentCore Gateway 和 CDK 构建生产就绪的智能体检索系统,内置覆盖七个遥测层的可观测性和持续评估能力。

📝 Summary

这篇 AWS 机器学习博客文章提供了一个完整、可部署的 CDK 应用,用于企业级智能体检索。文章解释了为什么经典的单次 RAG 在跨多语料库或依赖路由的问题上会失败,并展示了如何让一个托管在 Amazon Bedrock AgentCore Runtime 上的推理智能体,通过 AgentCore Gateway 以 MCP 工具形式暴露的两个托管式知识库(金融和天气)之间动态选择。托管式知识库(Type: MANAGED)免去了预置或扩展向量数据库的需要;数据摄取、嵌入、重排序和索引全部由服务托管。该方案预置了四个 CDK 栈(知识库、网关、智能体运行时、仪表盘),跨栈依赖自动解析。两个 CloudWatch 仪表盘呈现七个可观测性层:知识库原生指标、数据摄取、智能体检索质量、Gateway/MCP 指标、OTEL span 树、token 用量以及评估分数(按需和持续)。文章包含用于测试的驱动 notebook、合成语料库和公共领域语料库,以及集中在 config.py 中的所有可调参数。该架构强调可读的路由决策——独立的知识库和工具让各领域的质量信号保持区分——并通过有依据、带引用的回答以及忠实度和正确性评分来践行负责任的 AI。

💡 Main Points

经典的单次 RAG 在跨多语料库、需要按来源路由或需要迭代优化的问题上会失败。

单次嵌入加检索调用会返回不完整或上下文错误的答案,而这些答案读起来依然流畅。企业级智能体检索通过在流程中引入推理智能体来解决这一问题,由它决定是否检索、查询哪个知识库,以及在组织带引用的答案之前是否需要再次检索。

托管式 Amazon Bedrock 知识库(Type: MANAGED)是智能体检索和 AgentCore Gateway 集成的必要基础。

只有托管式知识库支持 AgenticRetrieveStream 和 AgentCore Gateway 连接器。它使用服务托管模型处理数据摄取、存储、索引、嵌入和重排序,免去了预置、扩展或修补 OpenSearch Serverless 等向量数据库的需要。

该方案是一个单一的 Python CDK 应用,包含四个相互引用的栈,一条命令即可部署整个系统——包括可观测性和评估。

CDK 从构造引用中推导部署顺序,消除了手动导出/导入的记录工作。四个栈分别创建:(1) 两个带 S3 语料库的托管式知识库,(2) 一个将每个知识库暴露为 MCP 工具的 AgentCore Gateway,(3) 一个在 AgentCore Runtime 上带插桩的 Strands 智能体,(4) 两个覆盖七个遥测层以及按需和持续评估的 CloudWatch 仪表盘。

为每个语料库设置独立的知识库和工具,使智能体的路由决策可观测,并让质量信号按领域分离。

使用两个命名工具(金融、天气)而非一个混合索引,可以让 span 树显示智能体对每个问题选择了哪个工具,检索质量指标(精确度、依据性)也能按领域分别统计。单一工具会把路由决策隐藏在索引排序内部,掩盖决策过程并平均掉不相关的质量信号。

可观测性和评估内置于部署之中,而非事后附加,从而为智能体系统提供持续的质量保障。

Runtime 会自动用 OpenTelemetry span 对推理-行动循环进行插桩。来自驱动 notebook 的自定义指标填充检索质量、token 用量和评估层。忠实度和正确性评分能捕捉答案偏离来源的情况,带引用的答案保持可审计——从第一天起就支持负责任的 AI 实践。

💬 Key Quotes

问一个答案横跨两个语料库的问题,单次检索只返回模型所需的一半内容,这比什么都不返回更糟,因为答案回来时流畅却不完整。

借助托管式知识库,检索不再是一次嵌入加检索的调用。它已成为一种智能体能力:多轮规划、工具驱动的检索,以及有依据、带引用的答案。

一个能返回答案的智能体系统对于生产环境来说还不够。你需要看到它的行为表现(延迟、调用量、token 用量),检索和答案有多好,而且你需要持续获得这些信号。

将语料库及其工具保持分离,正是让智能体行为可读的关键,而这正是整个练习的意义所在。

依据性、引用和评估层也支持负责任的使用。带引用的答案可追溯到其来源段落,因此响应保持可审计,而忠实度和正确性评分让你能捕捉答案偏离来源的情况,而不是在生产中才发现。

📊 Article Meta

AI Screening: 87

Source: AWS Artificial Intelligence

Author: Prabhakar Chandrasekaran

Category: 人工智能

Language: 英文

Read Time: 25 min

Word Count: 6219

Tags:

AI 与智能应用 , AI 工作流 , 可观测性 , AI Agent , RAG / 检索增强

#AI 与智能应用# AI 工作流# 可观测性# AI Agent# RAG / 检索增强

文章评论(12)

蓝光19 天前

这个观点很中肯,深有同感。

回复
蓝问津19 天前

整理得太全面了,省了我不少时间。

回复
一个橘子19 天前

这篇文章分析得很透彻,收藏了!

回复
武磊19 天前

看标题就点进来了,内容果然没让人失望。

回复
青柠微凉19 天前

不错不错,已加入书签。

回复
邱文博19 天前

这篇文章分析得很透彻,收藏了!

回复
吴超19 天前

很有价值的分享,感谢整理。

回复
星寻梦19 天前

写得挺用心的,支持一下。

回复
龙文博19 天前

看标题就点进来了,内容果然没让人失望。

回复
风倚栏19 天前

这个观点很中肯,深有同感。

回复
月归舟19 天前

楼主辛苦了,内容很有参考价值。

回复
晨沐雨19 天前

这篇文章分析得很透彻,收藏了!

回复