KoboldAI

KoboldAI 是一个免费的开源项目，允许用户在本地运行 AI 模型 在他们自己的计算机上。 它是一个基于浏览器的前端，可用于使用 AI 进行编写或角色扮演。KoboldAI 是“基于浏览器的前端，用于 使用多个本地和远程AI模型进行AI辅助写作...”。 它有一个公共和本地 API，可以在 LangChain 中使用。

安装和设置

查看安装指南。

LLM

请参阅使用示例。

from langchain_community.llms import KoboldApiLLM

API 参考：KoboldApiLLM