作者:AI小火箭的HB
我是AI小火箭的HB,我探索和写作人工智能和语言交叉点的所有事物,范围从LLM,聊天机器人,语音机器人,开发框架,以数据为中心的潜在空间等。
范例
初步体验
OpenAI新增了“函数调用”功能,这是什么呢?
我们先调用API来体验下。
下面是发送到模型的 JSON 文档。此调用的目的是生成一个 JSON 文件,该文件可用于发送到发送电子邮件的 API。
您可以看到函数名称为 send_email,并定义了三个参数, to_address , subject 和 body ,即电子邮件正文。
用户请求为:Send Cobus from humanfirst ai an email asking for the monthly report?
curl --location 'https://api.openai.com/v1/chat/completions' \
--header 'Content-Type: application/json' \
--header 'Authorization: Bearer sk-xxxx' \
--data '{
"model": "gpt-3.5-turbo-0613",
"messages": [
{"role": "user", "content": "Send Cobus from humanfirst ai an email asking for the monthly report?"}
],
"functions": [
{
"name": "send_email",
"description": "Please send an email.",
"parameters": {
"type": "object",
"properties": {
"to_address": {
"type": "string",
"description": "To address for email"
},
"subject": {
"type": "string",
"description": "subject of the email"
},
"body": {
"type": "string",
"description": "Body of the email"
}
}
}
}
]
}'
下面是返回的 JSON
{
"id": "chatcmpl-7TQuwzJpQAY470saQM2RPfxwF6DDE",
"object": "chat.completion",
"created": 1687249338,
"model": "gpt-3.5-turbo-0613",
"choices": [
{
"index": 0,
"message": {
"role": "assistant",
"content": null,
"function_call": {
"name": "send_email",
"arguments": "{\n \"to_address\": \"[email protected]\",\n \"subject\": \"Request for Monthly Report\",\n \"body\": \"Hi Cobus,\\n\\nI hope you're doing well. Could you please share the monthly report with me? It would be great to have it before the end of the week.\\n\\nThanks,\\n[Your Name]\"\n}"
}
},
"finish_reason": "function_call"
}
],
"usage": {
"prompt_tokens": 86,
"completion_tokens": 82,
"total_tokens": 168
}
}
GPT模型会返回需要调用的函数名 send_email和对应的参数(放在arguments字段)。
{
"to_address": "[email protected]",
"subject": "Request for Monthly Report",
"body": "Hi Cobus,\n\nI hope you're doing well. Could you please share the monthly report with me? It would be great to have it before the end of the week.\n\nThanks,\n[Your Name]"
}
这就非常有用,第三方的应用可以提供多个函数/服务(类似插件),GPT模型可以根据用户的指令自动选择不同的函数/服务。
现在再来看示例,就比较清晰了。
用途
根据官网文档,函数调用允许您更可靠地从模型中获取结构化数据。例如,您可以:
创建聊天机器人,通过调用外部 API 来回答问题(例如 ChatGPT 插件)
例如,定义像 send_email(to: string, body: string) 或 get_current_weather(location: string, unit: 'celsius' | 'fahrenheit') 这样的函数
将自然语言转换为 API 调用
例如,将“谁是我的顶级客户?”转换为 get_customers(min_revenue: int, created_before: string, limit: int) 并调用您的内部 API
从文本中提取结构化数据
例如,定义一个名为 extract_data(name: string, birthday: string) 或 sql_query(query: string) 的函数
函数调用的基本步骤顺序如下:
使用用户查询和函数参数中定义的一组函数调用模型。
模型可以选择调用函数;如果是这样,内容将是符合自定义架构的字符串化 JSON 对象(注意:模型可能会生成无效的 JSON 或幻觉参数)。
在代码中将字符串解析为 JSON,并使用提供的参数调用函数(如果存在)。
通过将函数响应追加为新消息来再次调用模型,并让模型将结果汇总回给用户。
AI小火箭
AI小火箭已经支持函数调用和gpt-3.5-turbo-16k、gpt-3.5-turbo-0613、gpt-3.5-turbo-16k-0613,大家可以去体验下。