Skip to main content
在 GitHub 上打开

纪念

本页介绍了如何在 LangChain 中使用 Remembrall 生态系统。

什么是 Remembrall?

Remembrall 只需几行代码即可为您的语言模型提供长期记忆、检索增强生成和完全可观测性。

显示请求统计信息和模型交互的 Remembrall 控制面板的屏幕截图。

它在您的 OpenAI 调用之上用作轻量级代理,并且只是使用已收集的相关事实在运行时增强聊天调用的上下文。

设置

要开始使用,请在 Remembrall 平台上使用 Github 登录,然后从设置页面复制您的 API 密钥

您使用修改后的openai_api_base(见下文)和 Remembrall API 密钥将在 Remembrall 控制面板中自动跟踪。您永远不必与我们的平台共享您的 OpenAI 密钥,并且此信息永远不会由 Remembrall 系统存储。

为此,我们需要安装以下依赖项:

pip install -U langchain-openai

启用长期记忆

除了设置openai_api_base和 Remembrall API 密钥通过x-gp-api-key,则应指定要为其维护内存的 UID。这通常是唯一的用户标识符(如电子邮件)。

from langchain_openai import ChatOpenAI
chat_model = ChatOpenAI(openai_api_base="https://remembrall.dev/api/openai/v1",
model_kwargs={
"headers":{
"x-gp-api-key": "remembrall-api-key-here",
"x-gp-remember": "user@email.com",
}
})

chat_model.predict("My favorite color is blue.")
import time; time.sleep(5) # wait for system to save fact via auto save
print(chat_model.predict("What is my favorite color?"))
API 参考:ChatOpenAI

启用 Retrieval Augmented Generation

首先,在 Remembrall 仪表板中创建一个文档上下文。粘贴文档文本或将文档上传为要处理的 PDF。保存 Document Context ID 并插入它,如下所示。

from langchain_openai import ChatOpenAI
chat_model = ChatOpenAI(openai_api_base="https://remembrall.dev/api/openai/v1",
model_kwargs={
"headers":{
"x-gp-api-key": "remembrall-api-key-here",
"x-gp-context": "document-context-id-goes-here",
}
})

print(chat_model.predict("This is a question that can be answered with my document."))
API 参考:ChatOpenAI