Redis缓存

class langchain_community.cache.RedisCache(redis_: Any, *, ttl: int | None = None)

使用Redis作为后端的缓存。允许使用同步的redis.Redis客户端。

初始化一个 RedisCache 的实例。

此方法初始化一个具有Redis缓存功能的对象。 它接受一个redis_参数，该参数应该是Redis客户端类（redis.Redis）的一个实例，允许对象与Redis服务器进行交互以实现缓存目的。

Parameters:

• redis (Any) – 一个Redis客户端类的实例 (redis.Redis) 用于缓存。 这允许对象与Redis服务器进行通信以执行缓存操作。

• ttl (int, optional) – 缓存项的生存时间（TTL），以秒为单位。 如果提供，它将设置缓存项保持有效的时间长度。如果未提供，缓存项将不会自动过期。

• redis_ (任意)

方法

__init__(redis_, *[, ttl])	初始化一个RedisCache实例。
aclear(**kwargs)	异步清除缓存，可以接受额外的关键字参数。
alookup(prompt, llm_string)	基于提示和llm_string的异步查找。
aupdate(prompt, llm_string, return_val)	基于提示和llm_string异步更新缓存。
clear(**kwargs)	清除缓存。
lookup(prompt, llm_string)	根据提示和llm_string进行查找。
update(prompt, llm_string, return_val)	根据提示和llm_string更新缓存。

__init__(redis_: Any, *, ttl: int | None = None)

初始化一个RedisCache的实例。

此方法初始化一个具有Redis缓存功能的对象。 它接受一个redis_参数，该参数应该是Redis客户端类（redis.Redis）的一个实例，允许对象与Redis服务器进行交互以实现缓存目的。

Parameters:

• redis (Any) – 一个Redis客户端类的实例 (redis.Redis) 用于缓存。 这允许对象与Redis服务器进行通信以执行缓存操作。

• ttl (int, optional) – 缓存项的生存时间（TTL），以秒为单位。 如果提供，它将设置缓存项保持有效的时间长度。如果未提供，缓存项将不会自动过期。

• redis_ (任意)

async aclear(**kwargs: Any) → None

异步清除缓存，可以接受额外的关键字参数。

Parameters:

kwargs (任意)

Return type:

无

async alookup(prompt: str, llm_string: str) → Sequence[Generation] | None

基于提示和llm_string的异步查找。

缓存实现预计会从提示和llm_string的二元组生成一个键（例如，通过用分隔符连接它们）。

Parameters:

• prompt (str) – 提示的字符串表示。 在聊天模型的情况下，提示是将提示非平凡地序列化为语言模型。

• llm_string (str) – LLM配置的字符串表示。 这用于捕获LLM的调用参数 （例如，模型名称、温度、停止标记、最大标记等）。 这些调用参数被序列化为字符串 表示。

Returns:

在缓存未命中时，返回 None。在缓存命中时，返回缓存的值。 缓存的值是 Generations（或其子类）的列表。

Return type:

序列[生成] | 无

async aupdate(prompt: str, llm_string: str, return_val: Sequence[Generation]) → None

根据提示和llm_string异步更新缓存。

提示和llm_string用于生成缓存的键。 该键应与查找方法的键匹配。

Parameters:

• prompt (str) – 提示的字符串表示。 在聊天模型的情况下，提示是将提示非平凡地序列化为语言模型。

• llm_string (str) – LLM配置的字符串表示。 这用于捕获LLM的调用参数 （例如，模型名称、温度、停止标记、最大标记等）。 这些调用参数被序列化为字符串 表示。

• return_val (Sequence[Generation]) – 要缓存的值。该值是一个Generations（或其子类）的列表。

Return type:

无

clear(**kwargs: Any) → None

清除缓存。如果asynchronous为True，则异步刷新。

Parameters:

kwargs (任意)

Return type:

无

lookup(prompt: str, llm_string: str) → Sequence[Generation] | None

根据提示和llm_string进行查找。

Parameters:

• prompt (str)

• llm_string (str)

Return type:

序列[生成] | 无

update(prompt: str, llm_string: str, return_val: Sequence[Generation]) → None

根据提示和llm_string更新缓存。

Parameters:

• prompt (str)

• llm_string (str)

• return_val (Sequence[Generation])

Return type:

无

使用 RedisCache 的示例

• 模型缓存

• Redis