如何使用链式工具

在本指南中，我们将介绍创建链式工具和代理的基本方法。工具可以是几乎任何东西 - API、函数、数据库等。工具使我们能够扩展模型的能力，不仅仅是输出文本/消息。使用工具与模型的关键在于正确地提示模型并解析其响应，以便选择正确的工具并为其提供正确的输入。

设置

我们需要安装以下软件包才能进行本指南：

%pip install --upgrade --quiet langchain

如果您想要在 LangSmith 中跟踪运行情况，请取消注释并设置以下环境变量：

import getpass
import os
# os.environ["LANGCHAIN_TRACING_V2"] = "true"
# os.environ["LANGCHAIN_API_KEY"] = getpass.getpass()

创建工具

首先，我们需要创建一个要调用的工具。在本示例中，我们将从一个函数创建一个自定义工具。有关创建自定义工具的更多信息，请参阅此指南。

from langchain_core.tools import tool
@tool
def multiply(first_int: int, second_int: int) -> int:
    """将两个整数相乘。"""
    return first_int * second_int

print(multiply.name)
print(multiply.description)
print(multiply.args)

multiply
multiply(first_int: int, second_int: int) -> int - 将两个整数相乘。
{'first_int': {'title': 'First Int', 'type': 'integer'}, 'second_int': {'title': 'Second Int', 'type': 'integer'}}

multiply.invoke({"first_int": 4, "second_int": 5})

20

链式工具

如果我们知道我们只需要固定次数地使用一个工具，我们可以创建一个链式工具来实现。让我们创建一个简单的链，只是将用户指定的数字相乘。

调用工具/函数

使用工具调用 API（有时也称为函数调用）是使用 LLMs 与工具最可靠的方法之一。这仅适用于明确支持工具调用的模型。您可以在这里查看支持工具调用的模型，并在此指南中了解有关如何使用工具调用的更多信息。

首先，我们将定义我们的模型和工具。我们将从一个单一工具 multiply 开始。

llm_with_tools = llm.bind_tools([multiply])

当模型调用工具时，这将显示在输出的 AIMessage.tool_calls 属性中。

msg = llm_with_tools.invoke("whats 5 times forty two")
msg.tool_calls

[{'name': 'multiply',
  'args': {'first_int': 5, 'second_int': 42},
  'id': 'call_cCP9oA3tRz7HDrjFn1FdmDaG'}]

调用工具

太棒了！我们能够生成工具调用。但是，如果我们想要实际调用工具怎么办？为此，我们需要将生成的工具参数传递给我们的工具。作为一个简单的例子，我们将提取第一个 tool_call 的参数。

from operator import itemgetter
chain = llm_with_tools | (lambda x: x.tool_calls[0]["args"]) | multiply
chain.invoke("What's four times 23")

92

代理

当我们知道任何用户输入所需的工具使用特定顺序时，链式工具非常好用。但对于某些用例，我们使用工具的次数取决于输入。在这些情况下，我们希望让模型自己决定何时以及以何种顺序使用工具。代理可以让我们做到这一点。

LangChain 提供了许多内置代理，针对不同的用例进行了优化。阅读所有代理类型的相关信息。

我们将使用工具调用代理，这通常是最可靠的一种，也是大多数用例的推荐选择。

from langchain import hub
from langchain.agents import AgentExecutor, create_tool_calling_agent

# 获取要使用的提示 - 可以用任何包含变量 "agent_scratchpad" 和 "input" 的提示替换！
prompt = hub.pull("hwchase17/openai-tools-agent")
prompt.pretty_print()

代理也很棒，因为它们使得使用多个工具变得容易。

@tool
def add(first_int: int, second_int: int) -> int:
    "Add two integers."
    return first_int + second_int
@tool
def exponentiate(base: int, exponent: int) -> int:
    "Exponentiate the base to the exponent power."
    return base**exponent
tools = [multiply, add, exponentiate]

# 构建工具调用代理
agent = create_tool_calling_agent(llm, tools, prompt)

# 通过传入代理和工具来创建代理执行器
agent_executor = AgentExecutor(agent=agent, tools=tools, verbose=True)

有了代理，我们可以提出需要任意多次使用工具的问题：

agent_executor.invoke(
    {
        "input": "Take 3 to the fifth power and multiply that by the sum of twelve and three, then square the whole result"
    }
)

> 进入新的 AgentExecutor 链...
调用: `exponentiate`，参数为 `{'base': 3, 'exponent': 5}`
243
调用: `add`，参数为 `{'first_int': 12, 'second_int': 3}`
15
调用: `multiply`，参数为 `{'first_int': 243, 'second_int': 15}`
3645
调用: `exponentiate`，参数为 `{'base': 405, 'exponent': 2}`
164025
将 3 的五次方的结果是 243。
十二和三的和是 15。
将 243 乘以 15 得到 3645。
最后，将 3645 平方得到 164025。
> 链结束。

{'input': 'Take 3 to the fifth power and multiply that by the sum of twelve and three, then square the whole result',
 'output': '将 3 的五次方的结果是 243。\n\n十二和三的和是 15。\n\n将 243 乘以 15 得到 3645。\n\n最后，将 3645 平方得到 164025。'}

在这里查看LangSmith跟踪。