输入令牌详情

class langchain_core.messages.ai.InputTokenDetails

输入令牌计数的细分。

不需要总和等于完整的输入令牌计数。不需要包含所有键。

示例

{
    "audio": 10,
    "cache_creation": 200,
    "cache_read": 100,
}

在版本0.3.9中添加。

audio: int

音频输入令牌。

cache_creation: int

输入的令牌已被缓存，但发生了缓存未命中。

由于缓存未命中，缓存是从这些令牌创建的。

cache_read: int

输入的令牌已被缓存并且有缓存命中。

由于存在缓存命中，令牌是从缓存中读取的。更准确地说，给定这些令牌的模型状态是从缓存中读取的。