使用 Docker 自托管 LangSmith
自托管 LangSmith 是为企业计划设计的附加功能,专为规模最大、对安全性要求最高的客户打造。如需更多详情,请查看我们的 定价页面;若希望获取许可证密钥以在您的环境中试用 LangSmith,请联系 sales@langchain.dev。
本指南提供了在本地使用 Docker 安装和设置 LangSmith 环境的说明。您可以通过使用 LangSmith SDK 或直接使用 Docker Compose 来实现这一点。
前置条件
- 确保 Docker 已安装在您的系统上并正在运行。您可以运行以下命令进行验证:如果您在输出中看不到任何服务器信息,请确保已正确安装Docker并启动Docker守护程序。
docker info- 推荐:您的机器至少有4个vCPU,16GB内存。
- 根据组织规模/使用情况,您可能需要根据我们的不同服务调整资源请求/限制。
- 磁盘空间:LangSmith可能需要大量磁盘空间。请确保有足够的磁盘空间可用。
- 推荐:您的机器至少有4个vCPU,16GB内存。
LangSmith License Key
- 您可以从您的Langchain代表那里获得。有关更多信息,请访问sales@langchain.dev与我们联系。
Api Key Salt
- 这是一个您可以生成的秘密密钥。它应该是一串随机的字符。
- 您可以使用以下命令生成:
openssl rand -base64 32- Egress to
https://beacon.langchain.com(if not running in offline mode)- LangSmith requires egress to
https://beacon.langchain.comfor license verification and usage reporting. This is required for LangSmith to function properly. You can find more information on egress requirements in the Egress section.
- LangSmith requires egress to
-
LangChain AI开发框架配置选项 LangChain AI开发框架配置选项
在
.env文件中,您可以设置多个配置选项。有关可用配置选项的更多信息,请参阅配置部分。- 在
.env文件中,您可以设置多个配置选项。有关可用配置选项的更多信息,请参阅配置部分。
- 在
通过Docker Compose运行
以下是如何使用Docker Compose运行LangSmith的说明。这是在没有Kubernetes的情况下运行LangSmith最灵活的方式。Docker Compose的默认配置仅适用于本地测试,而不适用于任何服务暴露于公共互联网的情况。在生产环境中,我们强烈建议使用安全的Kubernetes环境。
1. 获取LangSmith docker-compose.yml 文件
您可以在这里找到LangSmith SDK存储库中的docker-compose.yml文件及相关文件:LangSmith Docker Compose 文件
将 docker-compose.yml 文件及其目录中的所有文件从 LangSmith SDK 复制到您的项目目录。
- 确保您也复制了
users.xml文件。
2. Configure environment variables
- Copy the
.env.examplefile from the LangSmith SDK to your project directory and rename it to.env. - 在
.env文件中配置适当的值。您可以在配置部分找到可用的配置选项。
您还可以直接在docker-compose.yml文件中设置这些环境变量,或者在终端中导出它们。我们建议在.env文件中设置它们。
2. 启动服务器
在终端中执行以下命令以启动LangSmith应用:
docker-compose up
您也可以通过运行以下命令在后台启动服务器:
docker-compose up -d
验证您的部署:
-
暴露
cli-langchain-frontend-1容器的端口:curl localhost:1980/info
{"version":"0.5.7","license_expiration_time":"2033-05-20T20:08:06","batch_ingest_config":{"scale_up_qsize_trigger":1000,"scale_up_nthreads_limit":16,"scale_down_nempty_trigger":4,"size_limit":100,"size_limit_bytes":20971520}} -
在浏览器中访问
cli-langchain-frontend-1容器的公开端口Langsmith UI 应该在
http://localhost:1980可见/可操作
检查日志
如果在任何时候你想检查服务器是否正在运行并查看日志,请运行
docker-compose logs
停止服务器
docker-compose down
使用 LangSmith
现在 LangSmith 已运行,您可以开始使用它来追踪代码。有关如何使用自托管 LangSmith 的更多信息,请参阅 自托管使用指南。
您的 LangSmith 实例现在正在运行,但可能尚未完全设置完成。
如果您使用了其中一个基础配置,您可能已部署了无身份验证的配置。 在此状态下,不存在身份验证或用户账户的概念,也没有 API 密钥;只要将主机名传递给 LangChain 追踪器/LangSmith SDK,即可直接提交跟踪记录而无需 API 密钥。
作为下一步,强烈建议您与基础设施管理员合作:
- 为您的 LangSmith 实例配置 DNS 以实现更便捷的访问
- 配置 SSL 以确保提交给 LangSmith 的跟踪数据在传输过程中得到加密
- 配置 LangSmith 以使用 OAuth 身份验证 或 基本身份验证 来保护您的 LangSmith 实例
- 安全访问您的 Docker 环境,以限制仅 LangSmith 前端和 API 的访问
- 将 LangSmith 连接到安全的 Postgres 和 Redis 实例