如何使用聊天模型调用工具
本指南假设您熟悉以下概念：
Tool calling 允许聊天模型通过“调用工具”来响应给定的提示。
记住，虽然“工具调用”这个名字暗示模型正在直接执行某些操作，但实际上并非如此！模型只生成工具的参数，实际运行工具（或不运行）取决于用户。
工具调用是一种从模型生成结构化输出的通用技术，即使你不打算调用任何工具，也可以使用它。一个示例用例是从非结构化文本中提取。
如果你想了解如何使用模型生成的工具调用来实际运行一个工具查看此指南。
工具调用并不是普遍适用的，但许多流行的LLM提供商都支持它。您可以在这里找到支持工具调用的所有模型列表。
LangChain 实现了定义工具、将它们传递给LLM以及表示工具调用的标准接口。 本指南将介绍如何将工具绑定到LLM，然后调用LLM以生成这些参数。
定义工具模式
为了使模型能够调用工具，我们需要传入描述工具功能及其参数的工具模式。支持工具调用功能的聊天模型实现了一个.bind_tools()方法，用于将工具模式传递给模型。工具模式可以作为Python函数（带有类型提示和文档字符串）、Pydantic模型、TypedDict类或LangChain Tool objects传入。模型的后续调用将随提示一起传入这些工具模式。
Python 函数
我们的工具模式可以是Python函数：
# The function name, type hints, and docstring are all part of the tool
# schema that's passed to the model. Defining good, descriptive schemas
# is an extension of prompt engineering and is an important part of
# getting models to perform well.
def add(a: int, b: int) -> int:
"""Add two integers.
Args:
a: First integer
b: Second integer
"""
return a + b
def multiply(a: int, b: int) -> int:
"""Multiply two integers.
Args:
a: First integer
b: Second integer
"""
return a * b
LangChain 工具
LangChain 还实现了一个 @tool 装饰器，允许进一步控制工具模式，例如工具名称和参数描述。详情请参阅操作指南 这里。
Pydantic 类
你可以使用Pydantic来等效地定义模式，而不需要伴随的函数。
请注意，除非提供了默认值，否则所有字段都是required。
from pydantic import BaseModel, Field
class add(BaseModel):
"""Add two integers."""
a: int = Field(..., description="First integer")
b: int = Field(..., description="Second integer")
class multiply(BaseModel):
"""Multiply two integers."""
a: int = Field(..., description="First integer")
b: int = Field(..., description="Second integer")
TypedDict 类
langchain-core>=0.2.25或者使用 TypedDicts 和注解：
from typing_extensions import Annotated, TypedDict
class add(TypedDict):
"""Add two integers."""
# Annotations must have the type and can optionally include a default value and description (in that order).
a: Annotated[int, ..., "First integer"]
b: Annotated[int, ..., "Second integer"]
class multiply(TypedDict):
"""Multiply two integers."""
a: Annotated[int, ..., "First integer"]
b: Annotated[int, ..., "Second integer"]
tools = [add, multiply]
为了实际将这些模式绑定到聊天模型，我们将使用.bind_tools()方法。这处理将add和multiply模式转换为模型所需的正确格式。每次调用模型时，工具模式将被传递进去。
pip install -qU langchain-openai
import getpass
import os
if not os.environ.get("OPENAI_API_KEY"):
os.environ["OPENAI_API_KEY"] = getpass.getpass("Enter API key for OpenAI: ")
from langchain_openai import ChatOpenAI
llm = ChatOpenAI(model="gpt-4o-mini")
llm_with_tools = llm.bind_tools(tools)
query = "What is 3 * 12?"
llm_with_tools.invoke(query)
AIMessage(content='', additional_kwargs={'tool_calls': [{'id': 'call_iXj4DiW1p7WLjTAQMRO0jxMs', 'function': {'arguments': '{"a":3,"b":12}', 'name': 'multiply'}, 'type': 'function'}], 'refusal': None}, response_metadata={'token_usage': {'completion_tokens': 17, 'prompt_tokens': 80, 'total_tokens': 97}, 'model_name': 'gpt-4o-mini-2024-07-18', 'system_fingerprint': 'fp_483d39d857', 'finish_reason': 'tool_calls', 'logprobs': None}, id='run-0b620986-3f62-4df7-9ba3-4595089f9ad4-0', tool_calls=[{'name': 'multiply', 'args': {'a': 3, 'b': 12}, 'id': 'call_iXj4DiW1p7WLjTAQMRO0jxMs', 'type': 'tool_call'}], usage_metadata={'input_tokens': 80, 'output_tokens': 17, 'total_tokens': 97})
正如我们所看到的，我们的LLM生成了工具的参数！你可以查看bind_tools()的文档，了解如何自定义LLM选择工具的所有方法，以及这个关于如何强制LLM调用工具而不是让它自己决定的指南。
工具调用
如果LLM响应中包含工具调用，它们会作为消息或消息块的.tool_calls属性中的工具调用对象列表附加到相应的消息上。
请注意，聊天模型可以同时调用多个工具。
一个ToolCall是一个类型化的字典，包含工具名称、参数值的字典，以及（可选的）一个标识符。没有工具调用的消息默认此属性为空列表。
query = "What is 3 * 12? Also, what is 11 + 49?"
llm_with_tools.invoke(query).tool_calls
[{'name': 'multiply',
'args': {'a': 3, 'b': 12},
'id': 'call_1fyhJAbJHuKQe6n0PacubGsL',
'type': 'tool_call'},
{'name': 'add',
'args': {'a': 11, 'b': 49},
'id': 'call_fc2jVkKzwuPWyU7kS9qn1hyG',
'type': 'tool_call'}]
.tool_calls 属性应包含有效的工具调用。请注意，有时模型提供者可能会输出格式错误的工具调用（例如，参数不是有效的 JSON）。在这些情况下，当解析失败时，InvalidToolCall 的实例会被填充到 .invalid_tool_calls 属性中。一个 InvalidToolCall 可以有一个名称、字符串参数、标识符和错误消息。
解析
如果需要，输出解析器可以进一步处理输出。例如，我们可以使用PydanticToolsParser将.tool_calls上填充的现有值转换为Pydantic对象：
from langchain_core.output_parsers import PydanticToolsParser
from pydantic import BaseModel, Field
class add(BaseModel):
"""Add two integers."""
a: int = Field(..., description="First integer")
b: int = Field(..., description="Second integer")
class multiply(BaseModel):
"""Multiply two integers."""
a: int = Field(..., description="First integer")
b: int = Field(..., description="Second integer")
chain = llm_with_tools | PydanticToolsParser(tools=[add, multiply])
chain.invoke(query)
[multiply(a=3, b=12), add(a=11, b=49)]
下一步
现在你已经学会了如何将工具模式绑定到聊天模型，并让模型调用工具。
接下来，查看本指南，了解如何通过调用函数并将结果传递回模型来实际使用该工具：
你也可以查看一些更具体的工具调用用途：