使用 Docker 自托管 LangSmith
LangSmith 自托管是企业版计划的一个附加功能,专为我们规模最大、最注重安全的客户设计。有关更多详细信息,请参阅我们的定价页面,如果您想获取许可证密钥以在您的环境中试用 LangSmith,请通过sales@langchain.dev联系我们。
本指南提供使用 Docker 在本地安装和设置运行 LangSmith 环境的说明。您可以通过使用 LangSmith SDK 或直接使用 Docker Compose 来实现。
先决条件
- 请确保您的系统上已安装并运行 Docker。您可以通过运行以下命令进行验证:
如果输出中没有显示任何服务器信息,请确保 Docker 已正确安装并启动 Docker 守护程序。
docker info
- 推荐配置:您的机器上至少有 4 个 vCPU、16GB 内存可用。
- 您可能需要根据组织规模/使用情况调整我们所有不同服务的资源请求/限制。
- 磁盘空间:LangSmith 可能需要大量磁盘空间。请确保您有足够的可用磁盘空间。
- 推荐配置:您的机器上至少有 4 个 vCPU、16GB 内存可用。
- LangSmith 许可证密钥
- 您可以从您的 Langchain 代表处获取此密钥。如需更多信息,请通过sales@langchain.dev联系我们。
- API 密钥盐
- 这是一个您可以生成的密钥。它应该是一个随机字符串。
- 您可以使用以下命令生成此密钥:
openssl rand -base64 32
- 出站到
https://beacon.langchain.com
(如果未在离线模式下运行)- LangSmith 需要出站到
https://beacon.langchain.com
进行许可证验证和使用报告。这是 LangSmith 正常运行所必需的。您可以在出站部分找到有关出站要求的更多信息。
- LangSmith 需要出站到
- 配置
- 您可以在
.env
文件中设置多个配置选项。您可以在配置部分找到有关可用配置选项的更多信息。
- 您可以在
通过 Docker Compose 运行
以下说明如何使用 Docker Compose 运行 LangSmith。这是在没有 Kubernetes 的情况下运行 LangSmith 最灵活的方式。Docker Compose 的默认配置仅用于本地测试,不适用于任何服务暴露到公共互联网的实例。在生产环境中,我们强烈建议使用安全的 Kubernetes 环境。
1. 获取 LangSmith 的 docker-compose.yml
文件
您可以在 LangSmith SDK 仓库中找到 docker-compose.yml
文件及相关文件:LangSmith Docker Compose 文件
将 LangSmith SDK 中的 docker-compose.yml
文件和该目录中的所有文件复制到您的项目目录。
- 请确保也复制
users.xml
文件。
2. 配置环境变量
- 将 LangSmith SDK 中的
.env.example
文件复制到您的项目目录并重命名为.env
。 - 在
.env
文件中配置适当的值。您可以在配置部分找到可用的配置选项。
您也可以直接在 docker-compose.yml
文件中设置这些环境变量,或在终端中导出它们。我们建议在 .env
文件中设置它们。
2. 启动服务器
在终端中执行以下命令启动 LangSmith 应用程序:
docker-compose up
您也可以通过运行以下命令在后台启动服务器:
docker-compose up -d
验证您的部署:
-
curl 访问
cli-langchain-frontend-1
容器的暴露端口curl localhost:1980/info
{"version":"0.5.7","license_expiration_time":"2033-05-20T20:08:06","batch_ingest_config":{"scale_up_qsize_trigger":1000,"scale_up_nthreads_limit":16,"scale_down_nempty_trigger":4,"size_limit":100,"size_limit_bytes":20971520}} -
在浏览器中访问
cli-langchain-frontend-1
容器的暴露端口Langsmith UI 应该在
https://:1980
可见/运行。
检查日志
在任何时候,如果您想检查服务器是否正在运行并查看日志,请运行:
docker-compose logs
停止服务器
docker-compose down
使用 LangSmith
现在 LangSmith 正在运行,您可以开始使用它来追踪您的代码。您可以在自托管使用指南中找到有关如何使用自托管 LangSmith 的更多信息。
您的 LangSmith 实例现在正在运行,但可能尚未完全设置。
如果您使用了其中一个基本配置,您可能部署了一个无认证配置。在这种状态下,没有身份验证或用户帐户以及 API 密钥的概念,只要将主机名传递给 LangChain tracer/LangSmith SDK,就可以直接提交跟踪。
下一步,强烈建议您与您的基础设施管理员合作,以