Taxbit Assist:基于 Amazon Bedrock AgentCore 构建的有据可依、角色感知型 AI 智能体 | Amazon Web Services

AI小蝌蚪AI 前沿📡 BestBlogs·AI高分精选⭐ 882026-11-071190 阅读💛 282 收藏
Taxbit Assist:基于 Amazon Bedrock AgentCore 构建的有据可依、角色感知型 AI 智能体 | Amazon Web Services

📌 One-Sentence Summary

Taxbit 基于 Amazon Bedrock AgentCore 构建了一个有据可依、角色感知型 AI 智能体,通过从精选知识库中检索信息、实施安全与数据驻留要求,并在生产环境中持续衡量质量,以低成本提供回复,同时实现了较高的用户参与度。

📝 Summary

Taxbit 开发了 Taxbit Assist,这是一款嵌入其数字资产税务合规仪表盘的 AI 助手,基于 Amazon Bedrock AgentCore 和 Strands Agents SDK 构建。该智能体遵循四项约束:回答必须有依据并附带引用、具备角色感知能力、避免提供税务建议,并遵守区域数据驻留要求。其架构采用流式聊天 API、用于屏蔽 PII 的 Bedrock Guardrails、基于 S3 Vectors 的 RAG 知识库,以及感知地理区域的推理配置文件。工程团队重点优化了知识库整理:使用带文档标题的语义分块、检索时超额获取候选内容并重新排序,以及按来源类型确定内容是否可引用。安全边界包括租户隔离、基于角色的权限检查和税务建议分类器。系统通过 CloudWatch 跟踪数据持续衡量质量,并将数据送入在线评估、自定义评审器和人工审核;修正结果则反馈至知识库。该系统自 May 2026 起在美国和欧盟区域投入生产,平均每次对话的模型成本低于 $0.20。

💡 Main Points

Taxbit Assist 是一个基于 Amazon Bedrock AgentCore 构建的有据可依、角色感知型 AI 智能体,可帮助合规团队浏览 Taxbit 仪表盘。

该智能体必须提供带引用的回答、遵循用户角色权限、避免提供税务建议并满足数据驻留要求,因此需要精心设计检索机制与安全措施。

知识库采用语义分块,并在分块前添加文档标题,以确保每个分块都包含其适用范围的上下文。

每个分块前都会添加 H1 标题和导言段落(上限约为 128 tokens),避免检索到仅适用于特定申报制度的内容并造成误导。

检索时会超额获取 75 个候选结果,在服务器端重新排序,并将可引用内容限定为已发布的来源。

Cohere Rerank 3.5 会选出排名前 12 的结果,每份文档最多保留 2 个分块,最终最多向模型传递 5 个分块;只有公开网站、API 文档和帮助中心文章可以作为引用来源。

系统通过租户隔离、基于角色的权限检查和税务建议分类器实施安全保护。

模型不会处理身份信息,会话通过 AgentCore memory 隔离;基础模型分类器则用于检测回答偏离边界、开始提供税务建议的情况,且误报率接近于零。

系统通过 CloudWatch 跟踪数据、多种评估器和人工审核,在生产环境中持续衡量质量。

六个 LLM-as-a-judge 评估器会对有用性、有害性、连贯性和工具准确性评分;专家还会抽查回答,并将修正反馈至知识库。

提示词缓存和感知地理区域的推理配置文件能够降低延迟与成本,同时确保数据驻留。

静态系统提示词会在不同用户之间缓存;推理配置文件会将请求路由至正确的地理区域(美国或欧盟),并可选择使用 BYOK 加密。

💬 Key Quotes

每当智能体执行一个步骤(调用工具、读取结果、决定下一步行动)时,都必须把截至目前的完整过程发送给模型,以保持上下文连贯。

提示词缓存打破了这个循环。服务会存储你的输入提示词(指令、工具和内容),并在下一次请求时复用,输入成本只需原来的一小部分。

在 AI 智能体中使用缓存时,工具和系统提示词可能会泄露或遭到利用。应建立负责任的 AI 实践,并将提示词缓存的实现纳入治理体系。

我们选择了语义分块,它会在自然边界处分割文档;在我们的检索测试中,其表现优于固定大小分块。

代码会根据来源类型强制执行引用资格,而不是依赖提示词指令。只有这三个已发布来源可以被引用,因为只有它们的 URL 能打开客户可访问的内容。

📊 Article Meta

AI Screening: 88

Source: AWS Artificial Intelligence

Author: Karan Nayak

Category: 人工智能

Language: 英文

Read Time: 13 min

Word Count: 3159

Tags:

AI 与智能应用 , AI 工程 , 上下文工程 , RAG / 检索增强 , AI Agent

#AI 与智能应用# AI 工程# 上下文工程# RAG / 检索增强# AI Agent

文章评论(12)

林拾贝8 天前

这个观点很中肯,深有同感。

回复
龙文博9 天前

楼主辛苦了,内容很有参考价值。

回复
山问津8 天前

思路清晰,干货满满。

回复
青柠微凉9 天前

写得挺用心的,支持一下。

回复
林拾贝8 天前

看完了,收获满满,期待更多更新。

回复
邱文博8 天前

内容翔实,正好需要,先收藏再看。

回复
雪知秋8 天前

作者写得真不错,学到了不少。

回复
青柠微凉8 天前

这个比较实用,已转发给同事。

回复
雪知秋8 天前

这个比较实用,已转发给同事。

回复
蓝光8 天前

讲解得很细致,新手也能看懂。

回复
林拾贝8 天前

看标题就点进来了,内容果然没让人失望。

回复
蓝归舟8 天前

看标题就点进来了,内容果然没让人失望。

回复