Skip to main content

在 OpenAI 兼容的模型提供商/代理上运行游乐场

LangSmith playground 允许您使用任何符合 OpenAI API 规范的模型。您可以通过在 playground 中将 OpenAI 的 Proxy Provider 设置为您自己的模型来利用它。

部署一个与OpenAI兼容的模型

许多提供商提供符合 OpenAI 标准的模型或代理服务。此类示例包括:

您可以使用这些提供商来部署您的模型,并获得一个符合 OpenAI API 标准的 API 端点。

查看完整的 规范 以获取更多信息。

在 LangSmith Playground 中使用该模型

一旦您部署了模型服务器,即可在 LangSmith Playground 中使用它。进入 playground 并在 OpenAI 模态框内选择 Proxy Provider

OpenAI Proxy Provider

如果一切设置正确,您应该能在 playground 中看到模型的响应。您还可以使用此功能来调用下游管道。

查看如何保存您的模型配置以便稍后使用 此处


此页面有帮助吗?


您可以留下详细的反馈 在 GitHub 上