如何在不依赖函数调用功能的情况下结合工具与大型语言模型

当大型语言模型（LLM）原生不支持函数调用功能时，如何实现智能工具调度？本文通过自然语言解析+结构化输出控制的方法来实现。

GitHub代码地址

核心实现步骤

1. 定义工具函数
   使用@tool装饰器声明可调用工具：

from langchain_core.tools import tool

@tool
def multiply_by_max(
        a: int, 
        b: list[int]
) -> int:
    """将a乘以b列表中的最大值"""
    return a * max(b)

@tool
def divide_by(a: float, b: float) -> float:
    """将a除以b"""
    return a / b

2. 构建响应模型
   使用Pydantic定义结构化响应格式：

from pydantic import BaseModel, Field

class Response(BaseModel):
    name: str = Field(None, description="调用的函数名称")
    args: dict = Field(None, description="函数参数")

3. 创建输出解析器

from langchain_core.output_parsers import PydanticOutputParser

parser = PydanticOutputParser(pydantic_object=Response)

4. 设计提示模板

from langchain_core.prompts import ChatPromptTemplate

prompt = ChatPromptTemplate.from_messages([
    ("human", """
    请根据需求从下列函数中选择合适的工具：
    可用工具：\n{functions}\n
    输出格式：\n{format_instructions}
    问题：{query}
    """)
]).partial(
    functions=[tool.args_schema.model_json_schema() for tool in [multiply_by_max, divide_by]],
    format_instructions=parser.get_format_instructions()
)

工作原理

1. 自然语言解析：LLM分析用户query的语义
2. 工具匹配：根据函数描述自动选择最合适的工具
3. 参数提取：从自然语言中提取结构化参数
4. 格式化输出：生成符合预定格式的JSON响应

示例演示

示例1：数学计算

chain = prompt | ChatOpenAI(model="qwen-max") | parser
result = chain.invoke("请将3乘以一至九的最大值")
# 输出：
# name='multiply_by_max', args={'a':3, 'b':[1,2,3,4,5,6,7,8,9]}

示例2：无匹配工具

result = chain.invoke("查询北京天气")
# 输出：
# name=None, args=None