规模化 Tokenomics:使用 CUR 2.0 和 AWS Budgets 按 IAM 主体追踪并封顶 Amazon Bedrock 支出 | Amazon Web Services

AI小蝌蚪AI 前沿📡 BestBlogs·AI高分精选⭐ 852026-11-131054 阅读💛 86 收藏
规模化 Tokenomics:使用 CUR 2.0 和 AWS Budgets 按 IAM 主体追踪并封顶 Amazon Bedrock 支出 | Amazon Web Services

📌 One-Sentence Summary

本文介绍如何使用 AWS 成本和使用情况报告 2.0 与 AWS Budgets,按 IAM 主体追踪并封顶 Amazon Bedrock 支出,为各身份提供无需编写代码的成本可见性和自动化支出管控。

📝 Summary

本文介绍了一套三步方案,用于在 IAM 主体层面追踪并管控 Amazon Bedrock 支出:归因、报告和管控。Amazon Bedrock 会自动记录每个推理请求的 IAM 主体身份。启用成本分配标签并使用 AWS 成本和使用情况报告 2.0 或 Cost Explorer,组织便可查看各用户或团队的支出情况。在管控方面,AWS Budgets 可通过预算操作,在支出超过阈值时自动应用 IAM Deny 策略。对于常见场景,这套方案利用 AWS 原生功能,无需编写自定义应用代码。操作指南涵盖身份映射策略(主体标签与会话标签)、启用成本分配标签、配置 CUR 2.0 数据导出、数据查询方法,以及预算操作的设置,并提供详细的 IAM 策略示例。

💡 Main Points

Amazon Bedrock 会自动将推理请求归因到 IAM 主体(用户或角色),无需修改模型调用代码。

这一内置归因功能支持按身份追踪成本。对于共享角色,可通过会话标签或主体标签进一步区分用户;两种标签同时存在时,会话标签优先。

启用 IAM 主体成本分配标签后,可通过 AWS 成本和使用情况报告 2.0 或 Cost Explorer 查看各身份的成本。

标签必须先在 Billing 控制台中启用,才会出现在账单数据中。新标签最多需要 24 小时才会显示,之后还需再过 24 小时才能填充到账单数据中。CUR 2.0 导出内容包含调用者身份列,列名前缀为「iamPrincipal/」。

借助 AWS Budgets 的预算操作,可在支出超过阈值时自动应用 IAM Deny 策略,从而管控支出。

预算操作可针对特定 IAM 用户、用户组或角色,在限制使用高成本模型的同时,继续开放低成本模型。要使用预算操作,需专门创建一个供 AWS Budgets 执行操作的 IAM 角色,并为其配置恰当的信任策略和权限策略。

该方案存在一些限制,包括预算数据并非近实时刷新(每天最多刷新 3 次),且必须使用 CUR 2.0(旧版 CUR 不包含 IAM 主体字段)。

预算操作触发前,支出可能已超过阈值。会话标签在整个会话期间保持不变,也不会写入模型调用日志。由于用量类型因模型而异,新增模型后需要在查询和预算筛选条件中进行验证。

💬 Key Quotes

生成式 AI 的支出很难归因。在组织扩大 AI 使用权限之前,CFO 和 CTO 通常想知道三个问题:每个人或每个团队花了多少钱?能否设定支出上限?为此需要投入多少工作?

本文将介绍如何仅使用 AWS 原生功能,查看 Amazon Bedrock 按身份划分的成本并执行支出限额;对于常见场景,无需编写应用代码。

AWS Budgets 并非近实时服务:预算数据每天最多刷新 3 次,因此操作触发前,支出可能已经超过阈值。

📊 Article Meta

AI Screening: 85

Source: AWS Artificial Intelligence

Author: Arun Chandapillai

Category: 人工智能

Language: 英文

Read Time: 12 min

Word Count: 2844

Tags:

AI 与智能应用 , 云原生 / DevOps , AI 产品与应用 , AI 工程 , AWS

#AI 与智能应用# 云原生 / DevOps# AI 产品与应用# AI 工程# AWS

文章评论(12)

墨沐雨2 天前

看完了,收获满满,期待更多更新。

回复
陈皮话梅糖3 天前

有没有更详细的教程,期待后续。

回复
龙文博3 天前

讲解得很细致,新手也能看懂。

回复
青柠微凉2 天前

整理得太全面了,省了我不少时间。

回复
空向阳2 天前

这个观点很中肯,深有同感。

回复
墨沐雨2 天前

讲解得很细致,新手也能看懂。

回复
星寻梦2 天前

楼主辛苦了,内容很有参考价值。

回复
林观澜2 天前

支持作者,持续关注中。

回复
暮临风2 天前

有没有更详细的教程,期待后续。

回复
郭超2 天前

看标题就点进来了,内容果然没让人失望。

回复
蓝归舟2 天前

很有价值的分享,感谢整理。

回复
黄小刚2 天前

赞同,实践出真知。

回复