函数调用（Function Calling）：LLM如何实现？

嘿，大家好！这里是一个专注于AI智能体的频道！

今天和大家聊聊一个特别有趣的话题——函数调用（Function Calling）。这听起来可能有点技术性，但别担心，我会尽量用简单的语言来解释。

首先，我们得明白什么是函数调用。简单来说，就是大型语言模型（LLM）在一堆可用的工具或函数中，识别出最合适的那个，然后把输入查询中需要的部分作为参数传递给这个函数。听起来是不是有点拗口？别急，我来举个例子。

比如，我们先注册一个工具或函数列表。在使用Azure Open AI模型时，格式是这样的：

tools = [{
            "type": "function",
            "function": {
                 "name": "summarise_doc",
                 "description": "给定链接或者地址，总结网页或文档内容",
                 "parameters": {
                    "type": "object",
                    "properties": {
                        "url" : {
                            "type": "string",
                            "description": "需要总结的文件地址或页面的链接"
                        },
                    },
                "required": ["url"],
             }
            }

        }
]

然后，我们向LLM发起调用请求，同时传递查询和指令。这里，我们用一个用户提示来说明问题：

link = 'http://xxxxx'
user_prompt = f"你可以帮我总结{link} 吗?"

completion = client.chat.completions.create(
    model=deployment_name,
    messages= [
    {
      "role": "user",
      "content": user_prompt
    }],
    max_tokens=100,
    temperature=0.0,
    frequency_penalty=0,
    presence_penalty=0,
    stop=None,
    stream=False,
    tools=tools,
    tool_choice="auto",  
)

注意，这时候LLM还没有真正调用函数。我们需要根据需求定义函数——可能是调用另一个LLM，或者API，或者仅仅是本地逻辑。

function call这个话题可能听起来有点复杂，但其实它就是让LLM更智能地选择工具和处理数据的一种方式。