Skip to main content
Open on GitHub

Remembrall

本页面介绍了如何在LangChain中使用Remembrall生态系统。

什么是Remembrall?

Remembrall 只需几行代码即可为您的语言模型提供长期记忆、检索增强生成和完全的可观察性。

Remembrall仪表板的截图,显示请求统计和模型交互。

它作为您OpenAI调用的轻量级代理,在运行时简单地用已收集的相关事实增强聊天调用的上下文。

设置

要开始使用,请在Remembrall平台上使用Github登录并复制您的设置页面中的API密钥

任何使用修改后的openai_api_base(见下文)和Remembrall API密钥发送的请求将自动在Remembrall仪表板中跟踪。您永远不需要与我们的平台共享您的OpenAI密钥,并且这些信息永远不会被Remembrall系统存储。

为此,我们需要安装以下依赖项:

pip install -U langchain-openai

启用长期记忆

除了通过x-gp-api-key设置openai_api_base和Remembrall API密钥外,您还应指定一个UID以维护记忆。这通常是一个唯一的用户标识符(如电子邮件)。

from langchain_openai import ChatOpenAI
chat_model = ChatOpenAI(openai_api_base="https://remembrall.dev/api/openai/v1",
model_kwargs={
"headers":{
"x-gp-api-key": "remembrall-api-key-here",
"x-gp-remember": "user@email.com",
}
})

chat_model.predict("My favorite color is blue.")
import time; time.sleep(5) # wait for system to save fact via auto save
print(chat_model.predict("What is my favorite color?"))
API Reference:ChatOpenAI

启用检索增强生成

首先,在Remembrall仪表板中创建一个文档上下文。粘贴文档文本或上传PDF文档进行处理。保存文档上下文ID并如下所示插入。

from langchain_openai import ChatOpenAI
chat_model = ChatOpenAI(openai_api_base="https://remembrall.dev/api/openai/v1",
model_kwargs={
"headers":{
"x-gp-api-key": "remembrall-api-key-here",
"x-gp-context": "document-context-id-goes-here",
}
})

print(chat_model.predict("This is a question that can be answered with my document."))
API Reference:ChatOpenAI

这个页面有帮助吗?