DeepInfra
DeepInfra 使我们能够轻松运行最新的机器学习模型。 DeepInfra 负责与运行、扩展和监控相关的所有繁重工作 模型。用户可以专注于您的应用程序，并将模型与简单的 REST API 调用集成。
DeepInfra 提供了与 LangChain 集成的示例。
本页介绍如何使用DeepInfra生态系统内LangChain.
它分为两部分：安装和设置，然后引用特定的 DeepInfra 包装器。
安装和设置
- 从此链接获取您的 DeepInfra api 密钥 此处.
- 获取 DeepInfra api 密钥并将其设置为环境变量 （
DEEPINFRA_API_TOKEN)
可用型号
DeepInfra 提供了一系列可供部署的开源 LLM。
您可以查看请求和响应参数的列表。
聊天模型遵循 openai api
LLM
请参阅使用示例。
from langchain_community.llms import DeepInfra
API 参考：DeepInfra
嵌入
请参阅使用示例。
from langchain_community.embeddings import DeepInfraEmbeddings
API 参考：DeepInfraEmbeddings
聊天模型
请参阅使用示例。
from langchain_community.chat_models import ChatDeepInfra
API 参考：ChatDeepInfra