AstraDBCache#

class langchain_community.cache.AstraDBCache(*, collection_name: str = 'langchain_astradb_cache', token: str | None = None, api_endpoint: str | None = None, astra_db_client: AstraDB | None = None, async_astra_db_client: AsyncAstraDB | None = None, namespace: str | None = None, pre_delete_collection: bool = False, setup_mode: AstraSetupMode = SetupMode.SYNC)[source]#

自版本0.0.28起已弃用：请改用:class:`~langchain_astradb.AstraDBCache`。在langchain-community==1.0之前不会移除。

使用Astra DB作为后端的缓存。

它使用单个集合作为键值存储 查找键组合在文档的_id中，它们是：

  • prompt, 一个字符串

  • llm_string，模型参数的确定性字符串表示。 （需要防止相同提示不同模型冲突）

Parameters:

  • collection_name (str) – 要创建/使用的Astra DB集合的名称。

  • token (可选[str]) – 用于Astra DB的API令牌。

  • api_endpoint (可选[str]) – API端点的完整URL， 例如 https://-us-east1.apps.astra.datastax.com。

  • astra_db_client (可选[AstraDB]) – 替代 token+api_endpoint, 你可以传递一个已经创建的 'astrapy.db.AstraDB' 实例。

  • async_astra_db_client (Optional[AsyncAstraDB]) – 替代token+api_endpoint, 你可以传递一个已经创建的‘astrapy.db.AsyncAstraDB’实例。

  • namespace (可选[str]) – 创建集合的命名空间（也称为keyspace）。默认为数据库的“默认命名空间”。

  • setup_mode (AstraSetupMode) – 用于创建Astra DB集合的模式（SYNC、ASYNC或OFF）。

  • pre_delete_collection (bool) – 是否在创建集合之前删除它。如果为False且集合已存在，则直接使用该集合。

方法

__init__(*[, collection_name, token, ...])

使用Astra DB作为后端的缓存。

aclear(**kwargs)

异步清除缓存，可以接受额外的关键字参数。

adelete(prompt, llm_string)

如果缓存中有条目，则从缓存中移除。

adelete_through_llm(prompt, llm[, stop])

一个围绕 adelete 的包装器，传递了 LLM。

alookup(prompt, llm_string)

基于prompt和llm_string的异步查找。

aupdate(prompt, llm_string, return_val)

基于提示和llm_string异步更新缓存。

clear(**kwargs)

清除可以接受额外关键字参数的缓存。

delete(prompt, llm_string)

如果缓存中有条目，则从缓存中移除。

delete_through_llm(prompt, llm[, stop])

一个围绕delete的包装器，传递了LLM。

lookup(prompt, llm_string)

根据提示和llm_string进行查找。

update(prompt, llm_string, return_val)

根据提示和llm_string更新缓存。
__init__(*, collection_name: str = 'langchain_astradb_cache', token: str | None = None, api_endpoint: str | None = None, astra_db_client: AstraDB | None = None, async_astra_db_client: AsyncAstraDB | None = None, namespace: str | None = None, pre_delete_collection: bool = False, setup_mode: AstraSetupMode = SetupMode.SYNC)[source]#

使用Astra DB作为后端的缓存。

它使用单个集合作为键值存储 查找键组合在文档的_id中，它们是：

  • prompt, 一个字符串

  • llm_string，模型参数的确定性字符串表示。 （需要防止相同提示不同模型冲突）

Parameters:

  • collection_name (str) – 要创建/使用的Astra DB集合的名称。

  • token (可选[str]) – 用于Astra DB的API令牌。

  • api_endpoint (可选[str]) – API端点的完整URL， 例如 https://-us-east1.apps.astra.datastax.com。

  • astra_db_client (可选[AstraDB]) – 替代 token+api_endpoint, 你可以传递一个已经创建的 'astrapy.db.AstraDB' 实例。

  • async_astra_db_client (Optional[AsyncAstraDB]) – 替代token+api_endpoint, 你可以传递一个已经创建的‘astrapy.db.AsyncAstraDB’实例。

  • namespace (可选[str]) – 创建集合的命名空间（也称为keyspace）。默认为数据库的“默认命名空间”。

  • setup_mode (AstraSetupMode) – 用于创建Astra DB集合的模式（SYNC、ASYNC或OFF）。

  • pre_delete_collection (bool) – 是否在创建集合之前删除它。如果为False且集合已存在，则直接使用该集合。

async aclear(**kwargs: Any) → None[source]#

异步清除缓存，可以接受额外的关键字参数。

Parameters:

kwargs (任意)

Return type:

无

async adelete(prompt: str, llm_string: str) → None[source]#

如果缓存中有条目，则从缓存中移除。

Parameters:

  • prompt (str)

  • llm_string (str)

Return type:

无

async adelete_through_llm(prompt: str, llm: LLM, stop: List[str] | None = None) → None[source]#

一个围绕adelete的包装器，其中传递了LLM。 如果llm.invoke(prompt)调用具有stop参数，你应该在这里传递它

Parameters:

  • prompt (str)

  • llm (LLM)

  • stop (列表[字符串] | 无)

Return type:

无

async alookup(prompt: str, llm_string: str) → Sequence[Generation] | None[来源]#

基于提示和llm_string的异步查找。

缓存实现预计会从提示和llm_string的二元组生成一个键（例如，通过用分隔符连接它们）。

Parameters:

  • prompt (str) – 提示的字符串表示。 在聊天模型的情况下，提示是将提示非平凡地序列化为语言模型。

  • llm_string (str) – LLM配置的字符串表示。 这用于捕获LLM的调用参数 （例如，模型名称、温度、停止标记、最大标记等）。 这些调用参数被序列化为字符串 表示。

Returns:

在缓存未命中时，返回 None。在缓存命中时，返回缓存的值。 缓存的值是 Generations（或其子类）的列表。

Return type:

序列[生成] | 无

async aupdate(prompt: str, llm_string: str, return_val: Sequence[Generation]) → None[source]#

根据提示和llm_string异步更新缓存。

提示和llm_string用于生成缓存的键。 该键应与查找方法的键匹配。

Parameters:

  • prompt (str) – 提示的字符串表示。 在聊天模型的情况下，提示是将提示非平凡地序列化为语言模型。

  • llm_string (str) – LLM配置的字符串表示。 这用于捕获LLM的调用参数 （例如，模型名称、温度、停止标记、最大标记等）。 这些调用参数被序列化为字符串 表示。

  • return_val (Sequence[Generation]) – 要缓存的值。该值是一个Generations（或其子类）的列表。

Return type:

无

clear(**kwargs: Any) → None[source]#

清除可以接受额外关键字参数的缓存。

Parameters:

kwargs (任意)

Return type:

无

delete(prompt: str, llm_string: str) → None[源代码]#

如果缓存中有条目，则从缓存中移除。

Parameters:

  • prompt (str)

  • llm_string (str)

Return type:

无

delete_through_llm(prompt: str, llm: LLM, stop: List[str] | None = None) → None[source]#

一个围绕delete的包装器，传递了LLM。 如果llm.invoke(prompt)调用有stop参数，你应该在这里传递它

Parameters:

  • prompt (str)

  • llm (LLM)

  • stop (列表[字符串] | 无)

Return type:

无

lookup(prompt: str, llm_string: str) → Sequence[Generation] | None[来源]#

根据提示和llm_string进行查找。

缓存实现预计会从提示和llm_string的二元组生成一个键（例如，通过用分隔符连接它们）。

Parameters:

  • prompt (str) – 提示的字符串表示。 在聊天模型的情况下，提示是将提示非平凡地序列化为语言模型。

  • llm_string (str) – LLM配置的字符串表示。 这用于捕获LLM的调用参数 （例如，模型名称、温度、停止标记、最大标记等）。 这些调用参数被序列化为字符串 表示。

Returns:

在缓存未命中时，返回 None。在缓存命中时，返回缓存的值。 缓存的值是 Generations（或其子类）的列表。

Return type:

序列[生成] | 无

update(prompt: str, llm_string: str, return_val: Sequence[Generation]) → None[来源]#

根据提示和llm_string更新缓存。

提示和llm_string用于生成缓存的键。 该键应与查找方法的键匹配。

Parameters:

  • prompt (str) – 提示的字符串表示。 在聊天模型的情况下，提示是将提示非平凡地序列化为语言模型。

  • llm_string (str) – LLM配置的字符串表示。 这用于捕获LLM的调用参数 （例如，模型名称、温度、停止标记、最大标记等）。 这些调用参数被序列化为字符串 表示。

  • return_val (Sequence[Generation]) – 要缓存的值。该值是一个Generations（或其子类）的列表。

Return type:

无