记忆球

该页面介绍了如何在 LangChain 中使用 Remembrall 生态系统。

什么是 Remembrall？​

Remembrall 只需几行代码即可为您的语言模型提供长期记忆、检索增强生成以及完整的可观测性。

它作为您 OpenAI 调用之上的轻量级代理，在运行时通过收集的相关事实来增强聊天调用的上下文。

设置

开始之前，请在 Remembrall 平台上使用 GitHub 登录，并从设置页面复制您的 API 密钥。

您发送的任何带有已修改的openai_api_base（见下文）和Remembrall API密钥的请求，都将自动在Remembrall仪表板中被追踪。您绝不需要与我们的平台共享您的OpenAI密钥，并且此信息绝不会被Remembrall系统存储。

为此，我们需要安装以下依赖项：

pip install -U langchain-openai

启用长期记忆​

除了通过 openai_api_base 和 Remembrall API 密钥设置 x-gp-api-key 之外，您还应指定一个用于维护记忆的 UID。这通常是一个唯一的用户标识符（例如电子邮件）。

from langchain_openai import ChatOpenAI
chat_model = ChatOpenAI(openai_api_base="https://remembrall.dev/api/openai/v1",
                        model_kwargs={
                            "headers":{
                                "x-gp-api-key": "remembrall-api-key-here",
                                "x-gp-remember": "user@email.com",
                            }
                        })

chat_model.predict("My favorite color is blue.")
import time; time.sleep(5)  # wait for system to save fact via auto save
print(chat_model.predict("What is my favorite color?"))

API 参考:ChatOpenAI

启用检索增强生成​

首先，在Remembrall 控制面板中创建一个文档上下文。粘贴文档文本或将文档以 PDF 格式上传进行处理。保存文档上下文 ID，并按如下所示插入。

from langchain_openai import ChatOpenAI
chat_model = ChatOpenAI(openai_api_base="https://remembrall.dev/api/openai/v1",
                        model_kwargs={
                            "headers":{
                                "x-gp-api-key": "remembrall-api-key-here",
                                "x-gp-context": "document-context-id-goes-here",
                            }
                        })

print(chat_model.predict("This is a question that can be answered with my document."))

API 参考:ChatOpenAI