术语slug: token-cost-allocation

Token 成本归因

Token Cost Allocation

按单次调用 token 用量拆分模型使用成本的方法

收录情报动态

共 1 篇 · 第 1/1 页
AWS Machine Learning BlogT1·开发与工程
52 分
AWS 开源 Bedrock 调用级可观测数据湖方案

AWS 发布面向 Amazon Bedrock 的集中式可观测数据湖方案,可记录每次模型调用的提示词、返回内容、token 用量与所用模型,并据此推导单次调用成本。方案包含 CloudFormation 模板、Lambda 代码与 SQL 查询,已在 GitHub 开源,帮助平台与 ML 工程师排查调用异常、识别浪费性提示词并区分团队用量。