InputTokenDetails#

class langsmith.schemas.InputTokenDetails[source]#

输入 token 数量的细分。

需要总计为完整的输入 token 数量。需要包含所有键。

audio: int#

音频输入 token。

cache_creation: int#

已缓存但未命中的输入 token。

由于未命中缓存,因此从这些 token 创建了缓存。

cache_read: int#

已缓存且命中的输入 token。

由于命中缓存,因此从缓存中读取了这些 token。更准确地说,是模型给定这些 token 的状态从缓存中读取的。