规模化 Tokenomics:使用 CUR 2.0 和 AWS Budgets 按 IAM 主体追踪并封顶 Amazon Bedrock 支出 | Amazon Web Services

📌 One-Sentence Summary
本文介绍如何使用 AWS 成本和使用情况报告 2.0 与 AWS Budgets,按 IAM 主体追踪并封顶 Amazon Bedrock 支出,为各身份提供无需编写代码的成本可见性和自动化支出管控。
📝 Summary
本文介绍了一套三步方案,用于在 IAM 主体层面追踪并管控 Amazon Bedrock 支出:归因、报告和管控。Amazon Bedrock 会自动记录每个推理请求的 IAM 主体身份。启用成本分配标签并使用 AWS 成本和使用情况报告 2.0 或 Cost Explorer,组织便可查看各用户或团队的支出情况。在管控方面,AWS Budgets 可通过预算操作,在支出超过阈值时自动应用 IAM Deny 策略。对于常见场景,这套方案利用 AWS 原生功能,无需编写自定义应用代码。操作指南涵盖身份映射策略(主体标签与会话标签)、启用成本分配标签、配置 CUR 2.0 数据导出、数据查询方法,以及预算操作的设置,并提供详细的 IAM 策略示例。
💡 Main Points
Amazon Bedrock 会自动将推理请求归因到 IAM 主体(用户或角色),无需修改模型调用代码。
这一内置归因功能支持按身份追踪成本。对于共享角色,可通过会话标签或主体标签进一步区分用户;两种标签同时存在时,会话标签优先。
启用 IAM 主体成本分配标签后,可通过 AWS 成本和使用情况报告 2.0 或 Cost Explorer 查看各身份的成本。
标签必须先在 Billing 控制台中启用,才会出现在账单数据中。新标签最多需要 24 小时才会显示,之后还需再过 24 小时才能填充到账单数据中。CUR 2.0 导出内容包含调用者身份列,列名前缀为「iamPrincipal/」。
借助 AWS Budgets 的预算操作,可在支出超过阈值时自动应用 IAM Deny 策略,从而管控支出。
预算操作可针对特定 IAM 用户、用户组或角色,在限制使用高成本模型的同时,继续开放低成本模型。要使用预算操作,需专门创建一个供 AWS Budgets 执行操作的 IAM 角色,并为其配置恰当的信任策略和权限策略。
该方案存在一些限制,包括预算数据并非近实时刷新(每天最多刷新 3 次),且必须使用 CUR 2.0(旧版 CUR 不包含 IAM 主体字段)。
预算操作触发前,支出可能已超过阈值。会话标签在整个会话期间保持不变,也不会写入模型调用日志。由于用量类型因模型而异,新增模型后需要在查询和预算筛选条件中进行验证。
💬 Key Quotes
生成式 AI 的支出很难归因。在组织扩大 AI 使用权限之前,CFO 和 CTO 通常想知道三个问题:每个人或每个团队花了多少钱?能否设定支出上限?为此需要投入多少工作?
本文将介绍如何仅使用 AWS 原生功能,查看 Amazon Bedrock 按身份划分的成本并执行支出限额;对于常见场景,无需编写应用代码。
AWS Budgets 并非近实时服务:预算数据每天最多刷新 3 次,因此操作触发前,支出可能已经超过阈值。
📊 Article Meta
AI Screening: 85
Source: AWS Artificial Intelligence
Author: Arun Chandapillai
Category: 人工智能
Language: 英文
Read Time: 12 min
Word Count: 2844
Tags:
AI 与智能应用 , 云原生 / DevOps , AI 产品与应用 , AI 工程 , AWS
看完了,收获满满,期待更多更新。
有没有更详细的教程,期待后续。
讲解得很细致,新手也能看懂。
整理得太全面了,省了我不少时间。
这个观点很中肯,深有同感。
讲解得很细致,新手也能看懂。
楼主辛苦了,内容很有参考价值。
支持作者,持续关注中。
有没有更详细的教程,期待后续。
看标题就点进来了,内容果然没让人失望。
很有价值的分享,感谢整理。
赞同,实践出真知。