经常问的问题:
我无法在 UI 中创建 API 密钥或管理用户,这是怎么回事?
- 您可能已经部署了 LangSmith 但未设置 SSO。LangSmith 需要 SSO 来管理用户和 API 密钥。您可以在配置部分找到有关设置 SSO 的更多信息。
负载均衡/入口如何工作?
- 您需要向应用程序/用户公开前端容器/服务。这将处理到所有下游服务的路由。
- 您需要在入口级别终止 SSL。我们建议使用 AWS ALB、GCP Load Balancer 或 Nginx 等托管服务。
我们如何对应用程序进行身份验证?
- 目前,我们的自托管解决方案支持使用 OAuth2.0 和 OIDC 作为 authn 解决方案的 SSO。请注意,我们确实提供了无身份验证解决方案,但强烈建议在进入生产环境之前设置 oauth。
您可以在配置部分找到有关设置 SSO 的更多信息。
我可以使用外部存储服务吗?
- 您可以将 LangSmith 配置为使用所有存储服务的外部版本。在生产环境中,我们强烈建议使用外部存储服务。有关更多信息,请查看配置部分。
我的应用程序是否需要 egress 才能正常运行?
我们的部署只需要少数几项的出口(其中大部分可以驻留在您的 VPC 中):
- 获取图像(如果镜像您的图像,则可能不需要这样做)
- 与任何 LLM 终端节点通信
- 与您可能已配置的任何外部存储服务通信
- 获取 OAuth 信息
- 订阅指标和作元数据(如果未在脱机模式下运行)
- 需要 egress 到
https://beacon.langchain.com - 有关更多信息,请参阅 出口
- 需要 egress 到
您的 VPC 可以设置规则来限制任何其他访问。
注意:我们需要X-Organization-Id和X-Tenant-Id标头。这些用于确定请求针对哪个组织和工作区(以前称为 “租户”)。
应用程序的资源要求?
- 在 kubernetes 中,我们建议使用最低 helm 配置,可在此处找到。对于 docker,我们建议至少 16GB 的 RAM 和 4 个 CPU。
- 对于 Postgres,我们建议至少 8GB 的 RAM 和 2 个 CPU。
- 对于 Redis,我们建议使用 4GB RAM 和 2 个 CPU。
- 对于 Clickhouse,我们建议使用 32GB 的 RAM 和 8 个 CPU。