Taxbit Assist:基于 Amazon Bedrock AgentCore 构建的有据可依、角色感知型 AI 智能体 | Amazon Web Services

📌 One-Sentence Summary
Taxbit 基于 Amazon Bedrock AgentCore 构建了一个有据可依、角色感知型 AI 智能体,通过从精选知识库中检索信息、实施安全与数据驻留要求,并在生产环境中持续衡量质量,以低成本提供回复,同时实现了较高的用户参与度。
📝 Summary
Taxbit 开发了 Taxbit Assist,这是一款嵌入其数字资产税务合规仪表盘的 AI 助手,基于 Amazon Bedrock AgentCore 和 Strands Agents SDK 构建。该智能体遵循四项约束:回答必须有依据并附带引用、具备角色感知能力、避免提供税务建议,并遵守区域数据驻留要求。其架构采用流式聊天 API、用于屏蔽 PII 的 Bedrock Guardrails、基于 S3 Vectors 的 RAG 知识库,以及感知地理区域的推理配置文件。工程团队重点优化了知识库整理:使用带文档标题的语义分块、检索时超额获取候选内容并重新排序,以及按来源类型确定内容是否可引用。安全边界包括租户隔离、基于角色的权限检查和税务建议分类器。系统通过 CloudWatch 跟踪数据持续衡量质量,并将数据送入在线评估、自定义评审器和人工审核;修正结果则反馈至知识库。该系统自 May 2026 起在美国和欧盟区域投入生产,平均每次对话的模型成本低于 $0.20。
💡 Main Points
Taxbit Assist 是一个基于 Amazon Bedrock AgentCore 构建的有据可依、角色感知型 AI 智能体,可帮助合规团队浏览 Taxbit 仪表盘。
该智能体必须提供带引用的回答、遵循用户角色权限、避免提供税务建议并满足数据驻留要求,因此需要精心设计检索机制与安全措施。
知识库采用语义分块,并在分块前添加文档标题,以确保每个分块都包含其适用范围的上下文。
每个分块前都会添加 H1 标题和导言段落(上限约为 128 tokens),避免检索到仅适用于特定申报制度的内容并造成误导。
检索时会超额获取 75 个候选结果,在服务器端重新排序,并将可引用内容限定为已发布的来源。
Cohere Rerank 3.5 会选出排名前 12 的结果,每份文档最多保留 2 个分块,最终最多向模型传递 5 个分块;只有公开网站、API 文档和帮助中心文章可以作为引用来源。
系统通过租户隔离、基于角色的权限检查和税务建议分类器实施安全保护。
模型不会处理身份信息,会话通过 AgentCore memory 隔离;基础模型分类器则用于检测回答偏离边界、开始提供税务建议的情况,且误报率接近于零。
系统通过 CloudWatch 跟踪数据、多种评估器和人工审核,在生产环境中持续衡量质量。
六个 LLM-as-a-judge 评估器会对有用性、有害性、连贯性和工具准确性评分;专家还会抽查回答,并将修正反馈至知识库。
提示词缓存和感知地理区域的推理配置文件能够降低延迟与成本,同时确保数据驻留。
静态系统提示词会在不同用户之间缓存;推理配置文件会将请求路由至正确的地理区域(美国或欧盟),并可选择使用 BYOK 加密。
💬 Key Quotes
每当智能体执行一个步骤(调用工具、读取结果、决定下一步行动)时,都必须把截至目前的完整过程发送给模型,以保持上下文连贯。
提示词缓存打破了这个循环。服务会存储你的输入提示词(指令、工具和内容),并在下一次请求时复用,输入成本只需原来的一小部分。
在 AI 智能体中使用缓存时,工具和系统提示词可能会泄露或遭到利用。应建立负责任的 AI 实践,并将提示词缓存的实现纳入治理体系。
我们选择了语义分块,它会在自然边界处分割文档;在我们的检索测试中,其表现优于固定大小分块。
代码会根据来源类型强制执行引用资格,而不是依赖提示词指令。只有这三个已发布来源可以被引用,因为只有它们的 URL 能打开客户可访问的内容。
📊 Article Meta
AI Screening: 88
Source: AWS Artificial Intelligence
Author: Karan Nayak
Category: 人工智能
Language: 英文
Read Time: 13 min
Word Count: 3159
Tags:
AI 与智能应用 , AI 工程 , 上下文工程 , RAG / 检索增强 , AI Agent
这个观点很中肯,深有同感。
楼主辛苦了,内容很有参考价值。
思路清晰,干货满满。
写得挺用心的,支持一下。
看完了,收获满满,期待更多更新。
内容翔实,正好需要,先收藏再看。
作者写得真不错,学到了不少。
这个比较实用,已转发给同事。
这个比较实用,已转发给同事。
讲解得很细致,新手也能看懂。
看标题就点进来了,内容果然没让人失望。
看标题就点进来了,内容果然没让人失望。