使用元数据#

class langchain_core.messages.ai.UsageMetadata[来源]#

消息的使用元数据，例如令牌计数。

这是跨模型一致的令牌使用标准表示。

示例

{
    "input_tokens": 350,
    "output_tokens": 240,
    "total_tokens": 590,
    "input_token_details": {
        "audio": 10,
        "cache_creation": 200,
        "cache_read": 100,
    },
    "output_token_details": {
        "audio": 10,
        "reasoning": 200,
    }
}

在版本0.3.9中更改：添加了input_token_details和output_token_details。

input_tokens: int#: 输入（或提示）令牌的数量。所有输入令牌类型的总和。

output_tokens: int#: 输出（或完成）令牌的数量。所有输出令牌类型的总和。

total_tokens: int#: 总令牌数。输入令牌数 + 输出令牌数的总和。

input_token_details: NotRequired[InputTokenDetails]#

输入令牌计数的细分。

不需要总和等于完整的输入令牌计数。不需要包含所有键。

output_token_details: NotRequired[OutputTokenDetails]#

输出令牌计数的细分。

不需要求和到完整的输出标记计数。不需要拥有所有键。