AWS Machine Learning BlogT1·开发与工程
52 分
AWS 发布面向 Amazon Bedrock 的集中式可观测数据湖方案,可记录每次模型调用的提示词、返回内容、token 用量与所用模型,并据此推导单次调用成本。方案包含 CloudFormation 模板、Lambda 代码与 SQL 查询,已在 GitHub 开源,帮助平台与 ML 工程师排查调用异常、识别浪费性提示词并区分团队用量。
Token Cost Allocation
按单次调用 token 用量拆分模型使用成本的方法
AWS 发布面向 Amazon Bedrock 的集中式可观测数据湖方案,可记录每次模型调用的提示词、返回内容、token 用量与所用模型,并据此推导单次调用成本。方案包含 CloudFormation 模板、Lambda 代码与 SQL 查询,已在 GitHub 开源,帮助平台与 ML 工程师排查调用异常、识别浪费性提示词并区分团队用量。