Agent的解析：从 Prompt 到 Context（有趣的认识）

推荐语

上下文工程如何让AI“长出”推理能力？从Prompt到Context的进化，揭秘AI稳定输出的核心技术。

核心内容：
1. Prompt Engineering的困境与局限性
2. Context Engineering的系统级解决方案
3. RAG技术如何实现智能检索与生成

杨芳贤

53AI创始人/腾讯云(TVP)最具价值专家

上下文工程如何让AI“长出”推理能力

2023年秋天，当ChatGPT第一次走进某银行的风控部门时，工程师们兴奋地向它抛出一个问题：“请分析这份贷款申请的风险点。”模型流畅地输出了一段分析，但当他们把相同的数据换个问法，模型竟给出了截然不同的结论——参数稍作调整，风险评级就从“通过”变成了“拒绝”。这种不稳定的表现，恰似一位厨艺精湛却脾气古怪的大厨：今天用这锅盐炒菜咸得发苦，明天换口锅又淡出寡味。

这正是Prompt Engineering（提示工程）的困境。作为与大型语言模型（LLM）打交道的“底层沟通艺术”，它像极了给AI大厨下指令：把任务（指令）、食材（输入数据）、示范做法（示例）、火候要求（线索）甚至厨房背景（支持性内容）都事无巨细地写进菜谱。零样本提示（直接下令“做宫保鸡丁”）、少样本提示（给几个成功案例作示范）、思维链提示（让模型把推理步骤写成“先切姜葱，再爆香花椒……”）都是厨师们摸索出的技巧。但这种“艺术”实在脆弱：指令里一个词的改动可能让菜彻底变味，成百上千的用户需求更让手动调参成为不可能——总不能给每位顾客单独写份菜谱吧？

直到Context Engineering（上下文工程） 的出现，才让厨房彻底革新。它不再执着于优化单次指令，而是退一步思考：如何设计整个厨房系统，让AI大厨能随时获取最新、最对的食材和工具？

在上下文工程的蓝图里，“Context”就像厨房生态：系统级指令（今天做川菜还是淮扬菜）、对话历史（顾客之前说辣度要减半）、长期记忆（这位客人是素食主义者）、实时检索的外部数据（最新辣椒价格）、可用工具（切菜机器人、调味数据库）甚至输出格式要求（摆盘效果图），都成为AI烹饪时可调用的“知识基础设施”。这种理念直接催生了RAG（检索增强生成） ——上下文工程的“厨房中央处理器”。

RAG的工作流像极了一位资深厨师的备菜过程：

1. 离线索引（建菜谱库）：把菜谱（文档）切块（Chunking）、嵌入向量、存进“食材搜索引擎”（向量数据库）。高级分块策略如同切菜：朴素分块可能把“糖醋里脊”的步骤粗暴切成碎片，而语言学分块会按“腌制-炸制-调汁”的自然段落分割，语义分块甚至能识别出“这句描述火候，那段讲摆盘”，确保每块文本都是完整“食材”。

2. 在线推理（现场做菜）：顾客下单（用户查询）时，先将需求嵌入向量，在菜谱库中搜出相关食材（检索）；再把食材和原始订单混合，交给大厨（LLM）做菜（生成）。高级RAG就像米其林厨师：Naive RAG直接按菜谱下锅，Advanced RAG会先处理食材（清洗、改刀）再烹饪，Modular RAG则能根据菜品类型调用不同厨具（分支RAG）或让AI自己决定要不要查菜谱（Self-RAG）。

但厨房总有新挑战。当菜谱库越来越大，“关键食材”可能被淹没在海量信息中——这正是LLM的“Lost in the Middle”效应：模型更关注开头结尾的信息，中间的关键数据反而被忽略。为解决此问题，工程师们发明了“食材精炼术”：

重排序（Re-ranking）：像资深配菜师，用Cross-Encoder等工具精准评估每份食材与订单的相关性，把真正匹配的推到大厨面前。

压缩与摘要（Compress） ：过滤不相关食材（LLMChainFilter），提取精华（LLMChainExtractor），或用Top N压缩只保留最核心的几份菜谱。这就像厨师把十页菜谱浓缩成关键步骤：“腌10分钟+180℃炸3分钟+收汁”。

智能体隔离（Isolate）：对于超复杂的宴席（多步骤任务），把大任务拆给多个“专项厨师”（子智能体），每个只专注自己环节（如切配、炒制、摆盘），避免信息过载。

Context Engineering的终极目标，是让AI从“需要人工喂指令的机器”变成“能自动备菜、烹饪的智能主厨”。当RAG系统自动根据顾客需求（查询）检索最新食材（数据）、调用专业工具（函数）、管理烹饪记忆（对话历史），Prompt Engineering就从“单次指令优化”升级为“系统性上下文编排”——这正是AI应用从实验室走向千家万户（金融、医疗、客服）的关键跃迁。

如今，那位银行风控系统的AI大厨已今非昔比：它不仅能分析贷款申请，还能自动调取申请人最新征信数据（RAG检索）、根据历史对话理解用户真实需求（上下文记忆）、用标准化格式输出风险报告（输出指示器）。这种转变，恰似厨房从“依赖天才厨师”的手工作坊，蜕变为“流程标准化、品质可复制”的智能中央厨房。

 从“做菜”到“智能厨房”：揭秘AI多智能体的数据流魔法

你有没有想过，AI是怎么从“听指令”的小跟班，变成能“自主思考”的执行者的？就像厨艺小白进阶为大厨一样，多智能体系统（Multi-Agent System）也经历了一场数据流的“烹饪革命”。今天，我们就用做菜的比喻，带你搞懂智能体如何编排数据、做决策，甚至像大厨一样“随机应变”。

 第一步：明白“流程固定”vs“自主决策”的区别

在AI世界里，工作流（Workflow）就像新手学做番茄炒蛋：先把步骤写死在菜谱里（预定义代码路径）。比如：

1. 固定顺序型（链式工作流）：切番茄→打鸡蛋→炒制→出锅，一步错乱都不行。

2. 条件选择型（路由工作流）：根据番茄成熟度决定先炒番茄or先炒蛋，但每个步骤的工具（铲子、锅具）是固定的。

而智能体（Agent）就像老厨师：它不看死菜谱，而是根据锅里的情况（环境反馈）实时调整。比如炒着炒着发现火候不对，立马加醋补救——这种“见机行事”的能力，来自LLM的动态决策权。

第二步：拆解智能体的“烹饪流水线”

当任务复杂到要做“满汉全席”时，智能体就需要“厨房团队协作”（编排层Orchestration Layer）。常见的架构有三种：

1.  链式工作流（新手厨师模式）

像GPT-3.5时代的“流水线”：任务A→任务B→任务C，步步衔接。比如做宫保鸡丁：

    - 步骤1（切鸡丁）→步骤2（爆香干辣椒）→步骤3（倒入调好的酱汁）。

    - 每个步骤只专注一件事，但缺点是“一步错步步错”，容错率低。

2.路由工作流（有经验的厨师）

像o3早期的“条件跳步”：厨师先尝食材（LLM分析输入），再决定跳到哪个步骤。比如根据鸡肉新鲜度，选择“先腌制”或“直接过油”。LangGraph框架里的“条件边（Conditional Edges）”就像菜谱里的If-Else判断：如果鸡肉硬→先嫩化；如果新鲜→直接切块。

3. 团队协作模式（Orchestrator-Workers）

复杂大菜（如佛跳墙）需要总厨分解任务：

    - 总厨（Orchestrator）：负责把“炖佛跳墙”拆成“处理海鲜”“煨鲍鱼”“炖鸡汤”等子任务。

    - 专项厨师（Workers）：每位只专注一类食材（如专注处理贝类），有自己的工具箱（特定领域知识）。

    - 收尾厨师（Synthesizer）：汇总所有食材，完成最后的收汁和调味。

第三步：看智能体如何“边炒边思考”

光有流程还不够，大厨的精髓在于“动态调整”。智能体的决策循环（ReAct框架）就像炒菜时的“闻-看-尝”：

1. 思考（Thought）：LLM接到“查旧金山天气”的任务，先自言自语：“用户要天气，但我没数据，得用查询工具。”

2. 动手（Action）：调用天气API（相当于拿起手机查资料），生成参数（地点=旧金山）。

3. 观察（Observation）：API返回“晴，22℃”（观察数据），LLM把它写进“菜谱”（上下文）。

4. 再思考：现在有天气了，可以回答用户了——闭环！

对于硬菜（复杂任务），智能体还会用“Planning”做总菜谱：比如“巴黎五日游”被拆成“订机票→订酒店→规划每日行程→生成报告”四道菜，每道菜的输出（机票信息、酒店列表）成为下一道菜的原料。

 第四步：LangGraph——智能厨房的“流程图设计师”

光有大厨不够，得有好工具！LangChain的LangGraph框架，就像把整个厨房画成流程图：

状态（State）：相当于中央厨房的“共享冰箱”，所有食材（数据）放在这里，每个厨师（节点）随时取用、更新。

节点（Nodes）：切菜工、炒菜灶、摆盘台……每个节点只做一件事（调用LLM、执行工具等），处理完把“新食材”放回冰箱。

边（Edges）：箭头指示流程走向。简单边（Simple Edges）像“切完菜→炒锅”；条件边（Conditional Edges）像“如果肉没化冻→先解冻再切”。

检查点（Checkpointers）：相当于“进度保存”，如果中途被打断（比如用户加菜），能从断点恢复。

想象一个能自我进化的厨房：

图RAG技术：AI不仅能查“番茄”这个词，还能理解“番茄和糖中和酸味”的关系，做出更聪明的搭配。

自主智能体：像Self-RAG这样的系统，LLM开始管理自己的“记忆库”，不再需要人类预设所有步骤。

无限上下文：解决“炒到一半忘了放盐”的问题，AI能处理更长、更复杂的任务链。