如何处理没有生成查询的情况

有时，查询分析技术可能允许生成任意数量的查询 - 包括不生成任何查询！在这种情况下，我们的整体链条在决定是否调用检索器之前需要检查查询分析的结果。

我们将在此示例中使用模拟数据。

设置

安装依赖

# %pip install -qU langchain langchain-community langchain-openai langchain-chroma

设置环境变量

我们将在此示例中使用 OpenAI:

import getpass
import os
os.environ["OPENAI_API_KEY"] = getpass.getpass()
# 可选，取消注释以使用 LangSmith 跟踪运行。在此注册：https://smith.langchain.com.
# os.environ["LANGCHAIN_TRACING_V2"] = "true"
# os.environ["LANGCHAIN_API_KEY"] = getpass.getpass()

创建索引

我们将在虚构信息上创建一个向量存储。

from langchain_chroma import Chroma
from langchain_openai import OpenAIEmbeddings
from langchain_text_splitters import RecursiveCharacterTextSplitter
texts = ["Harrison worked at Kensho"]
embeddings = OpenAIEmbeddings(model="text-embedding-3-small")
vectorstore = Chroma.from_texts(
    texts,
    embeddings,
)
retriever = vectorstore.as_retriever()

查询分析

我们将使用函数调用来构造输出。但是，我们将配置 LLM，使其不需要调用表示搜索查询的函数（如果决定不需要）。然后，我们将使用提示进行查询分析，明确说明何时应该进行搜索以及何时不应该进行搜索。

from typing import Optional
from langchain_core.pydantic_v1 import BaseModel, Field
class Search(BaseModel):
    """在工作记录数据库上进行搜索。"""
    query: str = Field(
        ...,
        description="应用于工作记录的相似性搜索查询。",
    )

from langchain_core.prompts import ChatPromptTemplate
from langchain_core.runnables import RunnablePassthrough
from langchain_openai import ChatOpenAI
system = """您有能力发出搜索查询以获取信息以帮助回答用户信息。
如果您不需要查找信息，可以正常回答。"""
prompt = ChatPromptTemplate.from_messages(
    [
        ("system", system),
        ("human", "{question}"),
    ]
)
llm = ChatOpenAI(model="gpt-3.5-turbo-0125", temperature=0)
structured_llm = llm.bind_tools([Search])
query_analyzer = {"question": RunnablePassthrough()} | prompt | structured_llm

我们可以看到，通过调用这个函数，我们会得到一个消息，有时会返回一个工具调用，但并非总是。

query_analyzer.invoke("Harrison在哪里工作")

AIMessage(content='', additional_kwargs={'tool_calls': [{'id': 'call_ZnoVX4j9Mn8wgChaORyd1cvq', 'function': {'arguments': '{"query":"Harrison"}', 'name': 'Search'}, 'type': 'function'}]})

query_analyzer.invoke("嗨！")

AIMessage(content='你好！我今天能帮你什么？')

查询分析与检索

那么我们如何将这个功能包含在链条中呢？让我们看下面的示例。

from langchain_core.output_parsers.openai_tools import PydanticToolsParser
from langchain_core.runnables import chain
output_parser = PydanticToolsParser(tools=[Search])

@chain
def custom_chain(question):
    response = query_analyzer.invoke(question)
    if "tool_calls" in response.additional_kwargs:
        query = output_parser.invoke(response)
        docs = retriever.invoke(query[0].query)
        # 可以在这里添加更多逻辑 - 比如另一个 LLM 调用
        return docs
    else:
        return response

custom_chain.invoke("Harrison在哪里工作")

请求结果的数量 4 大于索引中元素的数量 1，更新 n_results = 1

[Document(page_content='Harrison worked at Kensho')]

custom_chain.invoke("嗨！")

AIMessage(content='你好！我今天能帮你什么？')