create_context_cache#
- langchain_google_vertexai.utils.create_context_cache(model: ChatVertexAI, messages: List[BaseMessage], expire_time: datetime | None = None, time_to_live: timedelta | None = None, tools: Sequence[Tool | Tool | _ToolDictLike | BaseTool | Type[BaseModel] | FunctionDescription | Callable | FunctionDeclaration | Dict[str, Any]] | None = None, tool_config: _ToolConfigDict | None = None) str [source]#
为某些模型中的内容创建缓存。
- Parameters:
model (ChatVertexAI) – ChatVertexAI 模型。必须至少是 gemini-1.5 pro 或 flash。
messages (List[BaseMessage]) – 要缓存的消息列表。
expire_time (datetime | None) – 此资源被视为过期的时间戳。
set (最多只能设置一个的expire_time和ttl。如果两者都没有设置) – 在API端将使用(目前为1小时)。
TTL (默认) – 在API端将使用(目前为1小时)。
time_to_live (timedelta | None) – 此资源的生存时间。如果提供,则过期时间为
computed – 创建时间 + TTL。
set – 在API端将使用(目前为1小时)。
TTL – 在API端将使用(目前为1小时)。
tools (Sequence[Tool | Tool | _ToolDictLike | BaseTool | Type[BaseModel] | FunctionDescription | Callable | FunctionDeclaration | Dict[str, Any]] | None) – 绑定到此聊天模型的工具定义列表。 可以是 pydantic 模型、可调用对象或 BaseTool。Pydantic 模型、可调用对象和 BaseTools 将自动转换为 它们的模式字典表示。
tool_config (_ToolConfigDict | None) – 可选。不可变。工具配置。此配置对所有工具共享。
- Raises:
ValueError – 如果模型不支持上下文捕获。
- Returns:
带有创建的缓存标识符的字符串。
- Return type:
字符串