又一突破！跨模型的Function_Calling来了

❝ 本文经翻译并二次整理自Tool Calling with LangChain一文。为了简化和统一与各种大型语言模型（LLM）提供商的工具调用API的交互，LangChain正在针对 AIMessage 引入一个名为 tool_calls 的新属性。本系列合集，点击链接查看

Tool Calling with LangChain

介绍

大型语言模型（LLM）通过工具调用能够与外部数据源进行交互。这项技术让开发者能够利用LLM来获取、交互和操作外部资源（比如数据库、文件和API等）。

随着越来越多的LLM提供商开始提供工具调用功能，我们注意到市场上出现了多种多样的接口。为了解决这个问题，LangChain推出了一个标准化的接口，这样用户就可以轻松地在不同的LLM提供商之间进行切换。

这个标准化接口包括以下几个方面：

• ChatModel.bind_tools：这个方法允许您将工具的定义附加到模型的调用过程中。
• AIMessage.tool_calls：这是一个新增的属性，它使得从模型返回的 AIMessage 中获取工具调用变得更加简单。
• create_tool_calling_agent：这是一个构建代理的函数，适用于任何实现了 bind_tools 并且能够返回 tool_calls 的模型。

下面，我们将详细解释这些组件。

ChatModel.bind_tools

为了让模型能够使用工具，我们需要告诉它哪些工具是可以使用的。这可以通过向模型提供一个包含工具定义的列表来实现，这些工具定义包括了工具参数的模式。不同的模型提供商可能需要不同的格式，但是 ChatModel.bind_tools 提供了一个统一的接口，让您可以指定哪些工具对模型来说是可用的。

这意味着，无论您使用的是哪种工具调用模型，代码的结构都将非常相似。

        
          
from langchain_anthropic import ChatAnthropic  
from langchain_core.pydantic_v1 import BaseModel, Field  
from langchain_core.tools import tool  
  
# ✅ Pydantic 类  
class multiply(BaseModel):  
    """返回 'x' 和 'y' 的乘积。"""  
    x: float = Field(..., description="第一个因子")  
    y: float = Field(..., description="第二个因子")  
      
# ✅ LangChain 工具  
@tool  
def exponentiate(x: float, y: float) -> float:  
    """将 'x' 乘以 'y'。"""  
    return x**y  
      
# ✅ 函数  
  
def subtract(x: float, y: float) -> float:  
    """从 'y' 中减去 'x'。"""  
    return y-x  
      
# ✅ OpenAI 格式字典  
# 还可以传入一个带有 "title" 和 "description" 的 JSON 模式  
add = {  
  "name": "add",  
  "description": "将 'x' 和 'y' 相加。",  
  "parameters": {  
    "type": "object",  
    "properties": {  
      "x": {"type": "number", "description": "要相加的第一个数字"},  
      "y": {"type": "number", "description": "要相加的第二个数字"}  
    },  
    "required": ["x", "y"]  
  }  
}  
  
llm = ChatAnthropic(model="claude-3-sonnet-20240229", temperature=0)  
  
# 每当我们调用 `llm\_with\_tool` 时，这三个工具定义  
# 都会被传递给模型。  
llm_with_tools = llm.bind_tools([multiply, exponentiate, add, subtract])  

      

如果我们想使用不同的工具调用模型，我们的代码看起来会非常相似：

        
          
from langchain_openai import ChatOpenAI  
  
llm = ChatOpenAI(model="gpt-4-turbo", temperature=0)  
llm_with_tools = llm.bind_tools([multiply, exponentiate, add, subtract])  

      

那么调用 llm_with_tools 会是什么样子呢？这就是 AIMessage.tool_calls 的用武之地。

AIMessage.tool_calls

在过去，当使用工具调用模型时，模型返回的工具调用可能会放在 AIMessage.additional_kwargs 或 AIMessage.content 中，这取决于模型提供商的API，并遵循特定于提供商的格式。现在，AIMessage.tool_calls 提供了一个标准化的接口来获取模型的工具调用。这样，在调用了绑定了工具的模型之后，您将得到一个包含 tool_calls 属性的输出，其中列出了所有的工具调用。

在调用了绑定工具的模型之后，您将得到以下形式的输出：

        
          
llm_with_tools.invoke([  
 ("system", "你是一个有用的助手"),   
 ("human", "5 的 2.743 次方是多少"),  
])  
  
# 👀 注意 tool\_calls 属性 👀  
  
# -> AIMessage(  
#    content=...,   
#    additional\_kwargs={...},  
#    tool\_calls=[{'name': 'exponentiate', 'args': {'y': 2.743, 'x': 5.0}, 'id': '54c166b2-f81a-481a-9289-eea68fc84e4f'}]  
#    response\_metadata={...},   
#    id='...'  
#   )  

      

其中 AIMessage 有一个 tool_calls: List[ToolCall] 属性，如果有工具调用，它将被填充，并将遵循工具调用的标准接口：

        
          
class ToolCall(TypedDict):  
  name: str  
  args: Dict[str, Any]  
 id: Optional[str]  

      

也就是说，无论您是在调用 Anthropic、OpenAI、Gemini 等，只要有工具调用，它将以 AIMessage.tool_calls 形式作为 ToolCall 出现。

我们还添加了一些其他属性，用于处理流式工具调用块和无效工具调用。有关这些的更多信息，请阅读工具调用文档 这里。

create_tool_calling_agent

利用LLM的工具调用能力来构建代理是一个非常强大的应用场景。我们已经有了一个 create_openai_tools_agent() 构造函数，它可以方便地构建一个符合OpenAI工具调用API的代理。但是，这个构造函数并不适用于Anthropic和Gemini等模型。现在，有了 bind_tools() 和 tool_calls 这两个新接口，我们推出了 create_tool_calling_agent()，它能够与任何支持工具调用的模型一起工作。

        
          
from langchain_core.prompts import ChatPromptTemplate  
from langchain_core.runnables import ConfigurableField  
from langchain_core.tools import tool  
from langchain.agents import create_tool_calling_agent, AgentExecutor  
  
@tool  
def multiply(x: float, y: float) -> float:  
    """将 'x' 乘以 'y'。"""  
    return x * y  
  
@tool  
def exponentiate(x: float, y: float) -> float:  
    """将 'x' 乘以 'y' 的指数。"""  
    return x**y  
  
@tool  
def add(x: float, y: float) -> float:  
    """将 'x' 和 'y' 相加。"""  
    return x + y  
  
prompt = ChatPromptTemplate.from_messages([  
    ("system", "你是一个有用的助手"),   
    ("human", "{input}"),   
    ("placeholder", "{agent\_scratchpad}"),  
])  
  
tools = [multiply, exponentiate, add]  
  
llm = ChatAnthropic(model="claude-3-sonnet-20240229", temperature=0)  
  
agent = create_tool_calling_agent(llm, tools, prompt)  
agent_executor = AgentExecutor(agent=agent, tools=tools, verbose=True)  
  
agent_executor.invoke({"input": "3 加上 5 的 2.743 次方是多少。还有 17.24 减去 918.1241 是多少。"})  

      

我们可以使用 VertexAI 替代：

        
          
from langchain_google_vertexai import ChatVertexAI  
  
llm = ChatVertexAI(  
 model="gemini-pro",   
 temperature=0,   
 convert_system_message_to_human=True  
)  
agent = create_tool_calling_agent(llm, tools, prompt)  
agent_executor = AgentExecutor(agent=agent, tools=tools, verbose=True)  
  
agent_executor.invoke({"input": "3 加上 5 的 2.743 次方是多少。还有 17.24 减去 918.1241 是多少。"})  

      

或者 OpenAI：

        
          
llm = ChatOpenAI(model="gpt-3.5-turbo-0125", temperature=0)  
  
agent = create_tool_calling_agent(llm, tools, prompt)  
agent_executor = AgentExecutor(agent=agent, tools=tools, verbose=True)  
  
agent_executor.invoke({"input": "3 加上 5 的 2.743 次方是多少。还有 17.24 减去 918.1241 是多少。"})  

      

等等。

有关新代理的完整文档，请查看 https://python.langchain.com/docs/modules/agents/agent\_types/tool\_calling。

总结

我们预计，将原生工具调用功能引入LLM的趋势将继续下去。我们希望这个标准化的工具调用接口能够帮助LangChain用户节省时间和精力，并使他们能够更容易地在不同的LLM提供商之间进行切换。

今天的内容就到这里，如果老铁觉得还行，可以来一波三连，感谢！

PS

：

AI小智技术交流群（技术交流、摸鱼、白嫖课程为主）又不定时开放了，感兴趣的朋友，可以在下方公号内回复：666，即可进入。

老规矩

，道友们还记得么，

右下角的 “在看” 点一下

， 如果感觉文章内容不错的话，记得分享朋友圈让更多的人知道！