使用 CDK 在托管式 Amazon Bedrock 知识库上构建智能体检索 | Amazon Web Services

📌 One-Sentence Summary
AWS 演示了如何使用托管式 Amazon Bedrock 知识库、AgentCore Gateway 和 CDK 构建生产就绪的智能体检索系统,内置覆盖七个遥测层的可观测性和持续评估能力。
📝 Summary
这篇 AWS 机器学习博客文章提供了一个完整、可部署的 CDK 应用,用于企业级智能体检索。文章解释了为什么经典的单次 RAG 在跨多语料库或依赖路由的问题上会失败,并展示了如何让一个托管在 Amazon Bedrock AgentCore Runtime 上的推理智能体,通过 AgentCore Gateway 以 MCP 工具形式暴露的两个托管式知识库(金融和天气)之间动态选择。托管式知识库(Type: MANAGED)免去了预置或扩展向量数据库的需要;数据摄取、嵌入、重排序和索引全部由服务托管。该方案预置了四个 CDK 栈(知识库、网关、智能体运行时、仪表盘),跨栈依赖自动解析。两个 CloudWatch 仪表盘呈现七个可观测性层:知识库原生指标、数据摄取、智能体检索质量、Gateway/MCP 指标、OTEL span 树、token 用量以及评估分数(按需和持续)。文章包含用于测试的驱动 notebook、合成语料库和公共领域语料库,以及集中在 config.py 中的所有可调参数。该架构强调可读的路由决策——独立的知识库和工具让各领域的质量信号保持区分——并通过有依据、带引用的回答以及忠实度和正确性评分来践行负责任的 AI。
💡 Main Points
经典的单次 RAG 在跨多语料库、需要按来源路由或需要迭代优化的问题上会失败。
单次嵌入加检索调用会返回不完整或上下文错误的答案,而这些答案读起来依然流畅。企业级智能体检索通过在流程中引入推理智能体来解决这一问题,由它决定是否检索、查询哪个知识库,以及在组织带引用的答案之前是否需要再次检索。
托管式 Amazon Bedrock 知识库(Type: MANAGED)是智能体检索和 AgentCore Gateway 集成的必要基础。
只有托管式知识库支持 AgenticRetrieveStream 和 AgentCore Gateway 连接器。它使用服务托管模型处理数据摄取、存储、索引、嵌入和重排序,免去了预置、扩展或修补 OpenSearch Serverless 等向量数据库的需要。
该方案是一个单一的 Python CDK 应用,包含四个相互引用的栈,一条命令即可部署整个系统——包括可观测性和评估。
CDK 从构造引用中推导部署顺序,消除了手动导出/导入的记录工作。四个栈分别创建:(1) 两个带 S3 语料库的托管式知识库,(2) 一个将每个知识库暴露为 MCP 工具的 AgentCore Gateway,(3) 一个在 AgentCore Runtime 上带插桩的 Strands 智能体,(4) 两个覆盖七个遥测层以及按需和持续评估的 CloudWatch 仪表盘。
为每个语料库设置独立的知识库和工具,使智能体的路由决策可观测,并让质量信号按领域分离。
使用两个命名工具(金融、天气)而非一个混合索引,可以让 span 树显示智能体对每个问题选择了哪个工具,检索质量指标(精确度、依据性)也能按领域分别统计。单一工具会把路由决策隐藏在索引排序内部,掩盖决策过程并平均掉不相关的质量信号。
可观测性和评估内置于部署之中,而非事后附加,从而为智能体系统提供持续的质量保障。
Runtime 会自动用 OpenTelemetry span 对推理-行动循环进行插桩。来自驱动 notebook 的自定义指标填充检索质量、token 用量和评估层。忠实度和正确性评分能捕捉答案偏离来源的情况,带引用的答案保持可审计——从第一天起就支持负责任的 AI 实践。
💬 Key Quotes
问一个答案横跨两个语料库的问题,单次检索只返回模型所需的一半内容,这比什么都不返回更糟,因为答案回来时流畅却不完整。
借助托管式知识库,检索不再是一次嵌入加检索的调用。它已成为一种智能体能力:多轮规划、工具驱动的检索,以及有依据、带引用的答案。
一个能返回答案的智能体系统对于生产环境来说还不够。你需要看到它的行为表现(延迟、调用量、token 用量),检索和答案有多好,而且你需要持续获得这些信号。
将语料库及其工具保持分离,正是让智能体行为可读的关键,而这正是整个练习的意义所在。
依据性、引用和评估层也支持负责任的使用。带引用的答案可追溯到其来源段落,因此响应保持可审计,而忠实度和正确性评分让你能捕捉答案偏离来源的情况,而不是在生产中才发现。
📊 Article Meta
AI Screening: 87
Source: AWS Artificial Intelligence
Author: Prabhakar Chandrasekaran
Category: 人工智能
Language: 英文
Read Time: 25 min
Word Count: 6219
Tags:
AI 与智能应用 , AI 工作流 , 可观测性 , AI Agent , RAG / 检索增强
这个观点很中肯,深有同感。
整理得太全面了,省了我不少时间。
这篇文章分析得很透彻,收藏了!
看标题就点进来了,内容果然没让人失望。
不错不错,已加入书签。
这篇文章分析得很透彻,收藏了!
很有价值的分享,感谢整理。
写得挺用心的,支持一下。
看标题就点进来了,内容果然没让人失望。
这个观点很中肯,深有同感。
楼主辛苦了,内容很有参考价值。
这篇文章分析得很透彻,收藏了!