LocalAI

LocalAI 是免费的开源 OpenAI 替代品。LocalAI充当与 OpenAI API 兼容的直接替代 REST API 规范。它允许您运行 LLM、生成图像、 使用消费级硬件在本地或本地进行音频（不仅如此）， 支持多个模型系列和架构。

谨慎

为了正确兼容，请确保您使用的是openaiSDK 版本为 0.x。

信息

langchain-localai是 LocalAI 的第三方集成包。它提供了一种在 Langchain 中使用 LocalAI 服务的简单方法。 源代码可在 Github 上找到

安装和设置

我们必须安装几个 python 包：

pip install tenacity openai

嵌入模型

请参阅使用示例。

from langchain_localai import LocalAIEmbeddings