为模型提供商使用自定义 TLS 证书

仅选择提供商

此功能目前仅适用于以下模型提供商：

• Azure OpenAI
• OpenAI
• 自定义（我们的自定义模型服务器）。有关更多信息，请参阅自定义模型服务器文档。

这些 TLS 设置将适用于所选模型提供程序的所有调用，包括通过在线评估使用时。

您可以使用自定义 TLS 证书连接到 LangSmith playground 中的模型提供商。如果您使用的是自签名证书、来自自定义证书颁发机构的证书或双向 TLS 认证，这将非常有用。

要使用自定义 TLS 证书，您需要设置以下环境变量。有关如何设置应用配置的更多信息，请参阅 自托管部署部分。

• LANGSMITH_PLAYGROUND_TLS_MODEL_PROVIDERS: 需要自定义 TLS 证书的分隔模型提供者列表。注意，azure_openai、openai 和 custom 是目前唯一支持自定义 TLS 证书的模型提供者，但未来将支持更多提供者。
• LANGSMITH_PLAYGROUND_TLS_CA: PEM 格式的自定义证书颁发机构 (CA) 证书。这必须是一个文件路径（用于挂载卷）。
• [可选] LANGSMITH_PLAYGROUND_TLS_KEY: PEM 格式的私钥。这必须是一个文件路径（用于挂载的卷）。这通常仅用于双向 TLS 认证。
• [可选] LANGSMITH_PLAYGROUND_TLS_CERT: PEM 格式的证书。这必须是一个文件路径（用于挂载的卷）。这通常仅用于双向 TLS 认证。

设置完这些环境变量后，进入 playground 并选择需要自定义 TLS 证书的模型提供商。 按常规方式配置您的模型提供商，连接时将使用自定义 TLS 证书。