类型别名 InputTokenDetails

InputTokenDetails: {
    audio?: number;
    cache_creation?: number;
    cache_read?: number;
}

输入 token 计数细分。

不需要求和得到完整的输入 token 计数。不需要包含所有键。

类型声明

  • Optionalaudio?: number

    音频输入 token。

  • Optionalcache_creation?: number

    被缓存但发生缓存未命中的输入 token。

    由于发生缓存未命中,缓存是根据这些 token 创建的。

  • Optionalcache_read?: number

    被缓存且发生缓存命中的输入 token。

    由于发生缓存命中,token 从缓存中读取。更准确地说,给定这些 token 的模型状态是从缓存中读取的。