在 OpenAI 兼容的模型提供商/代理上运行游乐场
LangSmith playground 允许您使用任何符合 OpenAI API 规范的模型。您可以通过在 playground 中将 OpenAI 的 Proxy Provider 设置为您自己的模型来利用它。
部署一个与OpenAI兼容的模型
许多提供商提供符合 OpenAI 标准的模型或代理服务。此类示例包括:
您可以使用这些提供商来部署您的模型,并获得一个符合 OpenAI API 标准的 API 端点。
查看完整的 规范 以获取更多信息。
在 LangSmith Playground 中使用该模型
一旦您部署了模型服务器,即可在 LangSmith Playground 中使用它。进入 playground 并在 OpenAI 模态框内选择 Proxy Provider。

如果一切设置正确,您应该能在 playground 中看到模型的响应。您还可以使用此功能来调用下游管道。
查看如何保存您的模型配置以便稍后使用 此处。