类型别名 InputTokenDetails

输入令牌详情: {
    音频?: number;
    缓存创建?: number;
    缓存读取?: number;
}

输入令牌计数明细。

需要加总到完整的输入令牌计数。不需要包含所有键。

类型声明

  • 可选音频?: number

    音频输入令牌。

  • 可选缓存创建?: number

    已缓存但缓存未命中的输入令牌。

    由于缓存未命中,缓存是根据这些令牌创建的。

  • 可选缓存读取?: number

    已缓存且缓存命中的输入令牌。

    由于缓存命中,令牌是从缓存中读取的。更确切地说,给定这些令牌的模型状态是从缓存中读取的。