微信扫码
添加专属顾问
深入解析LlamaIndex框架如何构建高效智能代理系统,掌握核心组件与工具集成技巧。 核心内容: 1. LlamaIndex框架的核心组件与智能代理特性 2. 各类工具(检索/函数/API工具)的功能与实现方式 3. 工作流设计与检索工具集成实战案例
一、核心概念解析
1.1 LlamaIndex框架概述
LlamaIndex是一个强大的数据框架,专为构建基于大型语言模型(LLM)的应用程序而设计。它提供了从数据摄取、索引构建到查询执行的全套工具,特别适合构建智能代理系统。
核心组件包括:
数据连接器(Data Connectors):用于从各种数据源(如PDF、文档、数据库等)读取数据
数据索引(Data Indexes):将数据转换为结构化格式,便于高效检索
查询引擎(Query Engines):处理用户查询并生成响应
智能代理(Agents):能够使用工具执行复杂任务的自主系统
工作流(Workflows):协调多个组件和步骤的执行流程
1.2 智能代理(Agent)核心概念
智能代理是能够理解目标、规划步骤并使用工具执行任务的系统。在LlamaIndex中,智能代理具有以下特点:
自主性:能够自主决定使用哪些工具以及如何使用
反应性:能够响应环境变化和用户输入
主动性:能够主动采取行动以达成目标
社交能力:能够与其他代理或系统进行交互
LlamaIndex提供了多种代理类型,如FunctionAgent、ReActAgent等,每种类型适用于不同的场景。
1.3 工具(Tools)概念
工具是智能代理执行特定任务的能力扩展。LlamaIndex支持多种类型的工具:
检索工具(Retriever Tools):用于从知识库中检索信息
函数工具(Function Tools):执行特定计算或操作
查询工具(Query Tools):执行复杂查询
API工具(API Tools):与外部服务交互
1.4 工作流(Workflow)概念
工作流是定义多个步骤执行顺序和条件的框架。在LlamaIndex中,工作流由以下元素组成:
事件(Events):工作流中传递的信息单元
步骤(Steps):处理事件并产生新事件的函数
上下文(Context):在工作流中共享的状态信息
二、工具集成
2.1 检索工具
检索工具允许代理从知识库中获取信息:
from llama_index.core.tools import RetrieverTooldef create_retriever_tool(index: VectorStoreIndex, name: str, description: str):"""创建检索工具"""# 创建检索器retriever = index.as_retriever(similarity_top_k=3)# 创建检索工具retriever_tool = RetrieverTool.from_defaults(retriever=retriever,name=name,description=description)return retriever_tool
2.2 函数工具
函数工具允许代理执行特定计算或操作:
from llama_index.core.tools import FunctionTool# 定义计算函数def multiply(a: float, b: float) -> float:"""两个数相乘"""return a * bdef add(a: float, b: float) -> float:"""两个数相加"""return a + bdef get_weather(city: str) -> str:"""获取指定城市的天气信息(模拟)"""# 这里可以接入真实的天气APIweather_data = {"北京": "晴天,温度25°C","上海": "多云,温度28°C","广州": "雨天,温度30°C"}return weather_data.get(city, f"抱歉,没有{city}的天气信息")# 创建函数工具multiply_tool = FunctionTool.from_defaults(fn=multiply)add_tool = FunctionTool.from_defaults(fn=add)weather_tool = FunctionTool.from_defaults(fn=get_weather)
2.3 API工具
API工具允许代理与外部服务交互:
import requestsfrom llama_index.core.tools import FunctionTooldef search_web(query: str) -> str:"""使用网络搜索API搜索信息(模拟)"""# 这里可以接入真实的搜索API,如Google Search API、Bing Search API等# 以下是模拟实现return f"关于'{query}'的搜索结果:这是一个模拟的搜索结果。"# 创建API工具search_tool = FunctionTool.from_defaults(fn=search_web)
三、智能代理创建
导入一些包,可自行删减。
pip install llama-index-corepip install llama-index-llms-openaipip install llama-index-embeddings-huggingfacepip install llama-index-vector-stores-chromapip install chromadb
3.1 基础智能代理
现在,我们可以创建一个基础的智能代理:
from llama_index.core.agent.workflow import FunctionAgentdef create_basic_agent(tools, system_prompt=None):"""创建基础智能代理"""if system_prompt is None:system_prompt = "你是一个有用的助手,可以使用提供的工具来回答问题和执行任务。"agent = FunctionAgent(tools=tools,llm=Settings.llm,system_prompt=system_prompt,verbose=True # 启用详细输出,便于调试)return agent
3.2 高级智能代理
我们可以创建一个更高级的智能代理,结合检索和计算能力:
def create_advanced_agent(index: VectorStoreIndex):"""创建高级智能代理"""# 创建工具retriever_tool = create_retriever_tool(index,name="knowledge_retriever",description="用于从知识库中检索相关信息")# 添加函数工具tools = [retriever_tool,multiply_tool,add_tool,weather_tool,search_tool]# 创建系统提示system_prompt = """你是一个智能助手,可以使用多种工具来回答问题和执行任务。当用户提问时,你应该:1. 首先尝试使用knowledge_retriever工具从知识库中查找相关信息2. 如果需要计算,使用multiply或add工具3. 如果需要天气信息,使用get_weather工具4. 如果需要网络搜索,使用search_web工具请根据用户需求选择合适的工具,并综合所有信息给出准确、有用的回答。"""# 创建代理agent = FunctionAgent(tools=tools,llm=Settings.llm,system_prompt=system_prompt,verbose=True)return agent
3.3 代理与工作流结合
我们可以将代理集成到工作流中,创建更复杂的系统:
class AgentEvent(Event):response: strclass AgentWorkflow(Workflow):def __init__(self, agent, **kwargs):super().__init__(**kwargs)self.agent = agent@stepasync def process_with_agent(self, ev: StartEvent) -> AgentEvent:"""使用代理处理输入"""query = ev.get("query")# 使用代理处理查询response = await self.agent.run(query)return AgentEvent(response=str(response))@stepasync def finalize(self, ev: AgentEvent) -> StopEvent:"""最终化结果"""return StopEvent(result=ev.response)async def run_agent_workflow(agent, query: str):"""运行代理工作流"""workflow = AgentWorkflow(agent=agent, timeout=30, verbose=False)result = await workflow.run(query=query)return result
3.4 完整的示例
(1)fun_coll.py中创建所需的方法。
from llama_index.core.tools import FunctionTool# 定义一些简单的工具函数def multiply(a: float, b: float) -> float:"""两个数相乘"""print(f"fun_coll- multiply 中的参数:a={a}, b={b}")return a * bdef add(a: float, b: float) -> float:"""两个数相加"""print(f"fun_coll- add 中的参数:a={a}, b={b}")return a + bdef divide(a: float, b: float) -> float:"""两个数相除,除数不能为零"""if b == 0:raise ValueError("除数不能为零")return a / bdef get_weather(city: str) -> str:"""获取指定城市的天气信息(模拟)"""weather_data = {"北京": "晴天,温度25°C","上海": "多云,温度28°C","广州": "雨天,温度30°C"}print(f"fun_coll- get_weather 中的参数:city={city}")return weather_data.get(city, f"抱歉,没有{city}的天气信息")def search(query: str) -> str:"""模拟搜索功能,根据查询词返回结果"""search_results = {"Python": "Python是一种高级编程语言","AI": "AI指人工智能","LlamaIndex": "LlamaIndex是一个用于构建LLM应用的框架"}ret= search_results.get(query, f"未找到关于 '{query}' 的结果")print(f"fun_coll- search 中的返回值:{ret}")return ret# 创建工具实例multiply_tool = FunctionTool.from_defaults(fn=multiply)add_tool = FunctionTool.from_defaults(fn=add)divide_tool = FunctionTool.from_defaults(fn=divide)weather_tool = FunctionTool.from_defaults(fn=get_weather)search_tool = FunctionTool.from_defaults(fn=search)
(2)fun_retiever.py中创建检索器。
from llama_index.core.tools import RetrieverToolfrom llama_index.core import (VectorStoreIndex,SimpleDirectoryReader,Response,)from llama_index.core.node_parser import SentenceSplitter# ......这里造查询引擎......documents = SimpleDirectoryReader(input_files=[r"D:\muxue\docs\jianlai.txt"]).load_data()# create vector indexsplitter = SentenceSplitter(chunk_size=512)vector_index = VectorStoreIndex.from_documents(documents, transformations=[splitter])query_engine = vector_index.as_query_engine()# 创建工具def create_retriever_tool(index: VectorStoreIndex, name: str, description: str):"""创建检索工具"""# 创建检索器retriever = index.as_retriever(similarity_top_k=3)# 创建检索工具tool = RetrieverTool.from_defaults(retriever=retriever,name=name,description=description)return toolmy_retriever_tool=create_retriever_tool(index=vector_index,name="knowledge_retriever",description="用于从知识库中检索相关信息")
(3)my_agent.py负责创建智能体。
# 测试运行agentimport asynciofrom llama_index.core.agent.workflow import FunctionAgentfrom common.bedrock_model_loader import model_loadersfrom fun_coll import multiply_tool,add_tool,weather_tool,search_toolfrom fun_retriever import my_retriever_toolasync def create_advanced_agent():"""创建高级智能代理"""# 添加函数工具tools = [my_retriever_tool,multiply_tool,add_tool,weather_tool,search_tool]# 创建系统提示system_prompt = """你是一个智能助手,可以使用多种工具来回答问题和执行任务。当用户提问时,你应该:1. 首先尝试使用knowledge_retriever工具从知识库中查找相关信息2. 如果需要计算,使用multiply或add工具3. 如果需要天气信息,使用get_weather工具4. 如果需要网络搜索,使用search_web工具请根据用户需求选择合适的工具,并综合所有信息给出准确、有用的回答。"""agent = FunctionAgent(tools=tools,#llm=model_loaders.llm, # 使用model_loaders中的llmsystem_prompt=system_prompt,verbose= False # True # 启用详细输出,便于调试)return agent
(4)main_test.py中调用智能体。
import sysfrom pathlib import Path# 添加项目根目录到Python路径project_root = Path(__file__).resolve().parent.parentsys.path.insert(0, str(project_root))# ================== 初始化 大模型 Langfuse ==================from common.muxue_model_loader import model_loadersimport common.langfuse_init_client# ================== 初始化大模型 Langfuse end ==================import asynciofrom my_agent import create_advanced_agentasync def test_agent():print("开始测试智能代理...")agent = await create_advanced_agent()# 测试 0: 从知识库中检索答案query1 = "成平安是什么性格?"response1 = await agent.run(query1)print(f"查询1: {query1}")print(f"回答1: {response1}")print("-" * 50)# 测试1: 数学计算query1 = "计算 123 乘以 456 等于多少?"response1 = await agent.run(query1)print(f"查询1: {query1}")print(f"回答1: {response1}")print("-" * 50)# 测试2: 天气查询query2 = "北京的天气怎么样?"response2 = await agent.run(query2)print(f"查询2: {query2}")print(f"回答2: {response2}")print("-" * 50)# 测试3: 组合任务query3 = "先计算 10 加上 20,然后将结果乘以 3"response3 = await agent.run(query3)print(f"查询3: {query3}")print(f"回答3: {response3}")print("-" * 50)# 运行测试if __name__ == "__main__":asyncio.run(test_agent())
执行结果如下:
查询1: 成平安是什么性格?回答1: 根据知识库中的信息,成平安是一个勤劳、坚韧、不轻言放弃的人。他自学拉坯技艺,即使在贫困和被人嘲笑的情况下,也坚持不懈地练习。他早起晚睡,养成了良好的作息习惯。此外,他还表现出了一定的谦逊和内敛,在被宋集薪嘲笑时,他没有反驳,而是默不作声。总的来说 ,成平安是一个坚韧、勤劳、谦逊的人。--------------------------------------------------fun_coll- multiply 中的参数:a=123, b=456查询1: 计算 123 乘以 456 等于多少?回答1: 123 乘以 456 等于 56088。--------------------------------------------------fun_coll- get_weather 中的参数:city=北京查询2: 北京的天气怎么样?回答2: 北京现在是晴天,温度为25°C。--------------------------------------------------fun_coll- add 中的参数:a=10, b=20fun_coll- multiply 中的参数:a=30, b=3查询3: 先计算 10 加上 20,然后将结果乘以 3回答3: 10 加上 20 的结果是 30,然后将 30 乘以 3 的结果是 90。
53AI,企业落地大模型首选服务商
产品:场景落地咨询+大模型应用平台+行业解决方案
承诺:免费POC验证,效果达标后再合作。零风险落地应用大模型,已交付160+中大型企业
2026-06-08
LiteParse:457页PDF不到1秒,LlamaIndex把解析器用Rust重写了
2026-06-02
开源的本地文档解析神器,实测,快如闪电,400 页 PDF 仅需 1 秒
2026-04-08
用 LlamaIndex 让 AI 读懂你的 Excel:三种方案详解
2025-12-04
LlamaIndex 深度实战:用《长安的荔枝》学会构建智能问答系统
2025-09-29
LlamaIndex 开发多智能体 Agents 入门基础
2025-07-21
LlamaIndex 是什么?普通人也能用它构建 AI 应用?
2025-07-13
手把手教你用 LlamaIndex 构建专属AI问答系统(新手友好版)
2025-07-04
LlamaIndex 开发大模型 Agent Workflow攻略
欢迎您使用【53AI 官方网站】(以下简称“本网站”或“我们”)。本《会员服务协议》(以下简称“本协议”)是您(以下简称“会员”或“用户”)与【深圳市博思协创网络科技有限公司】之间关于注册、登录及使用本网站会员服务所订立的法律协议。
在您注册或登录前,请务必审慎阅读、充分理解各条款内容,特别是免除或限制责任的条款、知识产权条款、争议解决条款等。此类条款将以加粗形式提示您注意。 当您通过微信公众号授权、手机验证码验证或其他方式成功登录本网站时,即视为您已完全理解并同意接受本协议的全部内容。
一、 定义
本网站:指由【深圳市博思协创网络科技有限公司】运营的,域名为【53ai.com】的网站及相关移动端页面。
会员服务:指本网站向注册会员提供的知识库文章查阅、内容检索及其他相关增值服务。
知识库内容:指本网站发布的包括但不限于文字、图表、数据、研究报告、行业分析等数字化内容资源。
二、 账号注册与登录
登录方式:本网站支持以下登录方式,您可根据实际情况选择:
微信公众号授权登录:您同意将您的微信OpenID信息授权给本网站,用于创建或关联会员账号。
手机验证码登录:您需提供真实有效的手机号码,并通过短信验证码完成身份验证与登录/注册。
账号安全:您的账号仅限您本人使用,禁止赠与、借用、租用、转让或售卖。因您保管不善导致的账号被盗、密码泄露等损失,由您自行承担。
实名认证:根据相关法律法规要求,我们可能要求您在特定功能下完成实名认证。如您拒绝提供,可能无法使用部分或全部服务。
未成年人保护:若您未满18周岁,请在法定监护人的陪同下阅读本协议,并在征得监护人同意后使用本服务。
三、 服务内容与规范
知识库查阅权限:会员登录后,有权按照其会员等级对应的权限范围,在线浏览、检索本网站知识库中的相关文章及内容。
服务变更:我们有权根据业务发展需要,调整、变更或终止部分服务内容,并将以网站公告、公众号消息等方式提前通知。
禁止行为:您在使用服务时不得实施以下行为:
利用技术手段批量爬取、下载、转存知识库内容;
将知识库内容用于商业目的或未经授权地向第三方传播;
干扰本网站正常运行或侵犯其他用户合法权益;
发布违法违规信息或从事违反公序良俗的活动。
四、 知识产权声明
权利归属:本网站知识库中的排版设计、软件代码等内容的知识产权均归【公司全称】或原权利人所有,受《中华人民共和国著作权法》等法律保护。
有限许可:本网站授予会员一项非独占、不可转让、不可转授权的普通许可,仅限于个人学习、研究之目的在线查阅知识库内容。
侵权追责:未经书面许可,任何单位或个人不得以任何形式复制、转载、摘编、镜像、汇编或以其他方式使用上述内容。一经发现,我们保留追究其法律责任的权利。
五、 个人信息保护
我们重视对您个人信息的保护。关于我们如何收集、使用、存储和保护您的个人信息,请单独阅读 《隐私政策》。
您通过微信公众号授权或手机号验证所提供的信息,我们将严格按照《个人信息保护法》的规定处理,仅用于身份识别、服务提供及安全验证等必要用途。
您可以随时通过网站设置或联系客服行使查阅、更正、删除个人信息及撤回授权同意的权利。
六、 免责声明
内容准确性:知识库内容仅供参考,不构成专业建议。我们不对其完整性、准确性、时效性作任何明示或暗示的保证,您应自行判断并承担使用风险。
不可抗力:因自然灾害、政策法规变化、网络故障、第三方平台接口异常(如微信接口维护、运营商短信通道故障)等不可抗力导致的服务中断或延迟,我们不承担违约责任。
第三方链接:本网站可能包含指向第三方网站的链接,该等网站的内容和服务不受我们控制,请您自行甄别风险。
七、 违约责任
如您违反本协议约定,我们有权视情节采取警告、限制功能、暂停服务、注销账号等措施,并保留要求赔偿损失的权利。
如因您的违约行为导致我们遭受行政处罚、第三方索赔或商誉损失,您应承担全部赔偿责任(包括但不限于罚款、赔偿金、律师费、公证费等)。
八、 法律适用与争议解决
本协议的订立、执行和解释均适用中华人民共和国大陆地区法律。
因本协议产生的或与本协议有关的任何争议,双方应友好协商解决;协商不成的,任何一方均可向【公司所在地】有管辖权的人民法院提起诉讼。
九、 其他
本协议构成双方就本服务达成的完整协议,取代此前任何口头或书面约定。
本协议任一条款被认定为无效或不可执行的,不影响其他条款的效力。
我们对本协议享有最终解释权,并在法律允许的范围内保留随时修改的权利。修改后的协议一经公布即生效,继续使用服务即视为同意修订内容。