针对符合 OpenAI 的模型提供程序/代理运行 Playground

LangSmith Playground 允许您使用任何符合 OpenAI API 的模型。您可以通过将 Proxy Provider 设置为OpenAI在场上。

部署符合 OpenAI 的模型

许多提供商提供符合 OpenAI 的模型或代理服务。这方面的一些示例包括：

• LiteLLM 代理
• 奥拉马

您可以使用这些提供程序来部署模型并获取符合 OpenAI API 的 API 终端节点。

查看完整规格了解更多信息。

在 LangSmith Playground 中使用模型

部署模型服务器后，您可以在 LangSmith Playground 中使用它。进入 Playground 并选择Proxy Provider在OpenAI模 态。

如果一切设置正确，您应该会在 Playground 中看到模型的响应。您还可以使用此功能来调用下游管道。

在此处了解如何存储模型配置以供以后使用。