为模型提供商使用自定义 TLS 证书
仅选择的提供商
此功能目前仅适用于以下模型提供商
- Azure OpenAI
- OpenAI
- 自定义(我们的自定义模型服务器)。更多信息请参阅自定义模型服务器文档。
这些 TLS 设置将应用于所有选定模型提供商的调用,包括通过在线评估使用时。
您可以在 LangSmith Playground 中使用自定义 TLS 证书连接到模型提供商。如果您使用的是自签名证书、自定义证书颁发机构的证书或相互 TLS 身份验证,这将非常有用。
要使用自定义 TLS 证书,您需要设置以下环境变量。有关如何设置应用程序配置的更多信息,请参阅自托管部署部分。
LANGSMITH_PLAYGROUND_TLS_MODEL_PROVIDERS
:一个逗号分隔的模型提供商列表,这些提供商需要自定义 TLS 证书。请注意,目前只有azure_openai
、openai
和custom
支持自定义 TLS 证书,但未来将支持更多提供商。LANGSMITH_PLAYGROUND_TLS_CA
:PEM 格式的自定义证书颁发机构 (CA) 证书。这必须是一个文件路径(用于挂载卷)。- [可选]
LANGSMITH_PLAYGROUND_TLS_KEY
:PEM 格式的私钥。这必须是一个文件路径(用于挂载卷)。这通常仅在相互 TLS 身份验证时才需要。 - [可选]
LANGSMITH_PLAYGROUND_TLS_CERT
:PEM 格式的证书。这必须是一个文件路径(用于挂载卷)。这通常仅在相互 TLS 身份验证时才需要。
设置这些环境变量后,进入 Playground 并选择需要自定义 TLS 证书的模型提供商。像往常一样设置您的模型提供商配置,连接到模型提供商时将使用自定义 TLS 证书。