Runhouse

此页面介绍了如何在LangChain中使用Runhouse生态系统。 它被分为三个部分：安装和设置、LLM和嵌入。

安装与设置

• 使用 pip install runhouse 安装 Python SDK
• 如果您想使用按需集群，请使用sky check检查您的云凭据

自托管的大语言模型

对于基础的自托管大语言模型，您可以使用SelfHostedHuggingFaceLLM类。对于更定制化的大语言模型，您可以使用SelfHostedPipeline父类。

from langchain_community.llms import SelfHostedPipeline, SelfHostedHuggingFaceLLM

API 参考:自托管流水线 |SelfHostedHuggingFaceLLM

对于自托管的大语言模型（Self-hosted LLMs）的更详细讲解，请参见这个笔记本。

自托管嵌入dings

使用自托管嵌入与LangChain结合可以有几种方法，可以通过Runhouse实现。

对于从Hugging Face Transformers模型自托管的基本向量表示，您可以使用SelfHostedEmbedding类。

from langchain_community.llms import SelfHostedPipeline, SelfHostedHuggingFaceLLM

API 参考:自托管流水线 |SelfHostedHuggingFaceLLM

要详细了解自托管嵌入式内容，请参阅此笔记本