针对 OpenAI 兼容模型提供商/代理运行 Playground
LangSmith Playground 允许您使用任何与 OpenAI API 兼容的模型。您可以通过在 Playground 中为 OpenAI 设置代理提供商来使用您的模型。
部署 OpenAI 兼容模型
许多提供商提供 OpenAI 兼容模型或代理服务。 一些例子包括
您可以使用这些提供商来部署您的模型并获得与 OpenAI API 兼容的 API 端点。
查看完整的 规范 以获取更多信息。
在 LangSmith Playground 中使用模型
部署模型服务器后，您可以在 LangSmith Playground 中使用它。 进入 Playground 并选择 OpenAI 模态框内的 代理提供商。
如果一切设置正确，您应该在 Playground 中看到模型的响应。 您还可以使用此功能来调用下游管道。
查看如何存储您的模型配置以供日后使用 此处。