InputTokenDetails#
- class langsmith.schemas.InputTokenDetails[source]#
输入 token 数量的细分。
不需要总计为完整的输入 token 数量。不需要包含所有键。
- audio: int#
音频输入 token。
- cache_creation: int#
已缓存但未命中的输入 token。
由于未命中缓存,因此从这些 token 创建了缓存。
- cache_read: int#
已缓存且命中的输入 token。
由于命中缓存,因此从缓存中读取了这些 token。更准确地说,是模型给定这些 token 的状态从缓存中读取的。