对模型提供程序使用自定义 TLS 证书

仅选择提供商

此功能目前仅适用于以下模型提供商：

• Azure OpenAI
• OpenAI
• 自定义（我们的自定义模型服务器）。有关更多信息，请参阅自定义模型服务器文档。

这些 TLS 设置将应用于所选模型提供程序的所有调用，包括通过在线评估使用时。

您可以使用自定义 TLS 证书连接到 LangSmith 园地中的模型提供程序。如果您使用的是自签名证书、来自自定义证书颁发机构的证书或双向 TLS 身份验证，这将非常有用。

要使用自定义 TLS 证书，您需要设置以下环境变量。有关如何设置应用程序配置的更多信息，请参阅自托管部署部分。

• LANGSMITH_PLAYGROUND_TLS_MODEL_PROVIDERS：需要自定义 TLS 证书的模型提供程序的逗号分隔列表。请注意，azure_openai,openai和custom是目前唯一支持的支持自定义 TLS 证书的模型提供程序，但将来将支持更多提供程序。
• LANGSMITH_PLAYGROUND_TLS_CA：PEM 格式的自定义证书颁发机构 （CA） 证书。这必须是文件路径（对于已挂载的卷）。
• [可选]LANGSMITH_PLAYGROUND_TLS_KEY：PEM 格式的私钥。这必须是文件路径（对于已挂载的卷）。这通常仅对双向 TLS 身份验证是必需的。
• [可选]LANGSMITH_PLAYGROUND_TLS_CERT：PEM 格式的证书。这必须是文件路径（对于已挂载的卷）。这通常仅对双向 TLS 身份验证是必需的。

设置这些环境变量后，进入 Playground 并选择需要自定义 TLS 证书的模型提供程序。 像往常一样设置您的模型提供程序配置，在连接到模型提供程序时将使用自定义 TLS 证书。