针对符合 OpenAI 规范的模型提供商/代理运行 Playground
LangSmith Playground 允许您使用任何符合 OpenAI API 规范的模型。您可以通过在 Playground 中为 OpenAI
设置代理提供商来使用您的模型。
部署符合 OpenAI 规范的模型
许多提供商提供符合 OpenAI 规范的模型或代理服务。其中包括一些示例:
您可以使用这些提供商来部署您的模型并获取符合 OpenAI API 规范的 API 端点。
查看完整的 规范 以获取更多信息。
在 LangSmith Playground 中使用模型
部署模型服务器后,您可以在 LangSmith Playground 中使用它。进入 Playground 并在 OpenAI
模态框中选择 Proxy Provider
。
如果一切设置正确,您应该能在 Playground 中看到模型的响应。您还可以使用此功能调用下游管道。
了解如何存储模型配置以供后续使用 此处。