Skip to main content

使用 Docker 自托管 LangSmith

需要企业许可

自托管 LangSmith 是为企业计划设计的附加功能,专为规模最大、对安全性要求最高的客户打造。如需更多详情,请查看我们的 定价页面;若希望获取许可证密钥以在您的环境中试用 LangSmith,请联系 sales@langchain.dev

本指南提供了在本地使用 Docker 安装和设置 LangSmith 环境的说明。您可以通过使用 LangSmith SDK 或直接使用 Docker Compose 来实现这一点。

前置条件

  1. 确保 Docker 已安装在您的系统上并正在运行。您可以运行以下命令进行验证:
    docker info
    如果您在输出中看不到任何服务器信息,请确保已正确安装Docker并启动Docker守护程序。
    1. 推荐:您的机器至少有4个vCPU,16GB内存。
      • 根据组织规模/使用情况,您可能需要根据我们的不同服务调整资源请求/限制。
    2. 磁盘空间:LangSmith可能需要大量磁盘空间。请确保有足够的磁盘空间可用。
  2. LangSmith License Key

    1. 您可以从您的Langchain代表那里获得。有关更多信息,请访问sales@langchain.dev与我们联系。
  3. Api Key Salt

    1. 这是一个您可以生成的秘密密钥。它应该是一串随机的字符。
    2. 您可以使用以下命令生成:
     openssl rand -base64 32
  4. Egress to https://beacon.langchain.com (if not running in offline mode)
    1. LangSmith requires egress to https://beacon.langchain.com for license verification and usage reporting. This is required for LangSmith to function properly. You can find more information on egress requirements in the Egress section.
  5. LangChain AI开发框架配置选项

    LangChain AI开发框架配置选项

    .env 文件中,您可以设置多个配置选项。有关可用配置选项的更多信息,请参阅配置部分。

    1. .env 文件中,您可以设置多个配置选项。有关可用配置选项的更多信息,请参阅配置部分。

通过Docker Compose运行

以下是如何使用Docker Compose运行LangSmith的说明。这是在没有Kubernetes的情况下运行LangSmith最灵活的方式。Docker Compose的默认配置仅适用于本地测试,而不适用于任何服务暴露于公共互联网的情况。在生产环境中,我们强烈建议使用安全的Kubernetes环境。

1. 获取LangSmith docker-compose.yml 文件

您可以在这里找到LangSmith SDK存储库中的docker-compose.yml文件及相关文件:LangSmith Docker Compose 文件

docker-compose.yml 文件及其目录中的所有文件从 LangSmith SDK 复制到您的项目目录。

  • 确保您也复制了users.xml文件。

2. Configure environment variables

  1. Copy the .env.example file from the LangSmith SDK to your project directory and rename it to .env.
  2. .env文件中配置适当的值。您可以在配置部分找到可用的配置选项。

您还可以直接在docker-compose.yml文件中设置这些环境变量,或者在终端中导出它们。我们建议在.env文件中设置它们。

2. 启动服务器

在终端中执行以下命令以启动LangSmith应用:

docker-compose up

您也可以通过运行以下命令在后台启动服务器:

docker-compose up -d

验证您的部署:

  1. 暴露 cli-langchain-frontend-1 容器的端口:

    curl localhost:1980/info
    {"version":"0.5.7","license_expiration_time":"2033-05-20T20:08:06","batch_ingest_config":{"scale_up_qsize_trigger":1000,"scale_up_nthreads_limit":16,"scale_down_nempty_trigger":4,"size_limit":100,"size_limit_bytes":20971520}}
  2. 在浏览器中访问 cli-langchain-frontend-1 容器的公开端口

    Langsmith UI 应该在 http://localhost:1980 可见/可操作

    .langsmith_ui.png

检查日志

如果在任何时候你想检查服务器是否正在运行并查看日志,请运行

docker-compose logs

停止服务器

docker-compose down

使用 LangSmith

现在 LangSmith 已运行,您可以开始使用它来追踪代码。有关如何使用自托管 LangSmith 的更多信息,请参阅 自托管使用指南

您的 LangSmith 实例现在正在运行,但可能尚未完全设置完成。

如果您使用了其中一个基础配置,您可能已部署了无身份验证的配置。 在此状态下,不存在身份验证或用户账户的概念,也没有 API 密钥;只要将主机名传递给 LangChain 追踪器/LangSmith SDK,即可直接提交跟踪记录而无需 API 密钥。

作为下一步,强烈建议您与基础设施管理员合作:

  • 为您的 LangSmith 实例配置 DNS 以实现更便捷的访问
  • 配置 SSL 以确保提交给 LangSmith 的跟踪数据在传输过程中得到加密
  • 配置 LangSmith 以使用 OAuth 身份验证基本身份验证 来保护您的 LangSmith 实例
  • 安全访问您的 Docker 环境,以限制仅 LangSmith 前端和 API 的访问
  • 将 LangSmith 连接到安全的 Postgres 和 Redis 实例

此页面有帮助吗?


您可以留下详细的反馈 在 GitHub 上