create_context_cache#

langchain_google_vertexai.utils.create_context_cache(model: ChatVertexAI, messages: List[BaseMessage], expire_time: datetime | None = None, time_to_live: timedelta | None = None, tools: Sequence[Tool | Tool | _ToolDictLike | BaseTool | Type[BaseModel] | FunctionDescription | Callable | FunctionDeclaration | Dict[str, Any]] | None = None, tool_config: _ToolConfigDict | None = None) str[source]#

为某些模型中的内容创建缓存。

Parameters:
  • model (ChatVertexAI) – ChatVertexAI 模型。必须至少是 gemini-1.5 pro 或 flash。

  • messages (List[BaseMessage]) – 要缓存的消息列表。

  • expire_time (datetime | None) – 此资源被视为过期的时间戳。

  • set (最多只能设置一个expire_time和ttl。如果两者都没有设置) – 在API端将使用(目前为1小时)。

  • TTL (默认) – 在API端将使用(目前为1小时)。

  • time_to_live (timedelta | None) – 此资源的生存时间。如果提供,则过期时间为

  • computed – 创建时间 + TTL。

  • set – 在API端将使用(目前为1小时)。

  • TTL – 在API端将使用(目前为1小时)。

  • tools (Sequence[Tool | Tool | _ToolDictLike | BaseTool | Type[BaseModel] | FunctionDescription | Callable | FunctionDeclaration | Dict[str, Any]] | None) – 绑定到此聊天模型的工具定义列表。 可以是 pydantic 模型、可调用对象或 BaseTool。Pydantic 模型、可调用对象和 BaseTools 将自动转换为 它们的模式字典表示。

  • tool_config (_ToolConfigDict | None) – 可选。不可变。工具配置。此配置对所有工具共享。

Raises:

ValueError – 如果模型不支持上下文捕获。

Returns:

带有创建的缓存标识符的字符串。

Return type:

字符串