为模型提供商使用自定义 TLS 证书
仅选择提供商
此功能目前仅适用于以下模型提供商
- Azure OpenAI
- OpenAI
- 自定义(我们的自定义模型服务器)。有关更多信息,请参阅自定义模型服务器文档。
这些 TLS 设置将应用于所选模型提供商的所有调用,包括通过在线评估使用时。
您可以使用自定义 TLS 证书连接到 LangSmith Playground 中的模型提供商。如果您正在使用自签名证书、来自自定义证书颁发机构的证书或双向 TLS 身份验证,这将非常有用。
要使用自定义 TLS 证书,您需要设置以下环境变量。有关如何设置应用程序配置的更多信息,请参阅自托管部署部分。
LANGSMITH_PLAYGROUND_TLS_MODEL_PROVIDERS
:需要自定义 TLS 证书的模型提供商的逗号分隔列表。请注意,azure_openai
、openai
和custom
目前是唯一支持自定义 TLS 证书的受支持模型提供商,但未来将支持更多提供商。LANGSMITH_PLAYGROUND_TLS_CA
:PEM 格式的自定义证书颁发机构 (CA) 证书。这必须是文件路径(对于已挂载的卷)。- [可选]
LANGSMITH_PLAYGROUND_TLS_KEY
:PEM 格式的私钥。这必须是文件路径(对于已挂载的卷)。这通常仅在双向 TLS 身份验证中是必需的。 - [可选]
LANGSMITH_PLAYGROUND_TLS_CERT
:PEM 格式的证书。这必须是文件路径(对于已挂载的卷)。这通常仅在双向 TLS 身份验证中是必需的。
设置这些环境变量后,进入 Playground 并选择需要自定义 TLS 证书的模型提供商。照常设置您的模型提供商配置,连接到模型提供商时将使用自定义 TLS 证书。