企业级 RAG Agent 开发指南：RAG Agent 开发的 10 条实战准则

推荐语

RAG之父Douwe Kiela的10条实战准则，为企业级AI开发指明方向。

核心内容：
1. RAG技术如何解决大语言模型的局限性
2. Kiela的学术背景与职业成就
3. 10条RAG Agent开发建议及其系统级优化思路

杨芳贤

53AI创始人/腾讯云(TVP)最具价值专家

在生成式人工智能浪潮席卷全球的时代，企业与开发者们在追求高效智能解决方案的过程中，逐渐意识到单纯依赖大语言模型存在的局限性 —— 知识更新滞后、领域专业性不足、对噪声数据的脆弱性等问题日益凸显。检索增强生成（RAG）技术的出现，犹如一剂良药，通过将外部知识库检索与模型生成能力相结合，为 AI 应用开辟了新的发展方向。而 Douwe Kiela，这位被业界尊称为 “RAG 之父” 的资深研究者，凭借其在学术与产业界的双重深耕，提出的 10 条 RAG Agent 开发建议，更是为技术落地实践点亮了明灯。这些建议不仅是 Kiela 多年研究与实践的智慧结晶，更蕴含着对 RAG 技术本质与应用边界的深刻思考，将成为开发者们在 RAG Agent 开发征程中不可或缺的指南。

01 RAG 之父 Kiela 的学术与职业历程

Douwe Kiela 拥有丰富且多元的学术背景，在乌得勒支大学攻读文理科双学位时，他同时深入学习认知人工智能与哲学，这种独特的学科组合赋予他从神经科学层面洞察人类认知机制的能力，也培养了他从哲学角度审慎思考 AI 伦理问题的素养。在阿姆斯特丹大学获得逻辑硕士学位后，Kiela 进入剑桥大学深造，师从自然语言处理领域的权威教授，进一步深耕专业知识。

在其职业生涯中，2018 年加入 Meta AI（原 Facebook AI Research）的他主导了 “知识密集型 NLP 任务” 项目，为后续在自然语言处理和机器学习领域的突破奠定了础。2021 年，Kiela 加入 Hugging Face 担任研究主管，在此期间，他推动了 Transformers 库的升级，主导开发的 “RAG - AI” 模块成为开源社区的标志性创新成果，极大地推动了 RAG 技术在业界的广泛应用与发展。2023 年，Kiela 创立 Contextual AI，将关注点聚焦于企业级 AI 的实际落地应用，致力于解决企业级 AI 面临的实际问题。

02 RAG Agent 开发的 10 条建议

Douwe Kiela在近期演讲中为开发者提出了RAG Agent开发的10条建议：

1. Better LLMs are not the answer 

更好的LLM不是唯一答案，系统级能力优先于模型性能。

在 RAG Agent 开发中，单纯追求更大、更先进的大语言模型（LLM）并不能直接带来理想效果。RAG 系统的核心优势在于将检索与生成能力相结合，这需要从系统层面进行整体优化。例如，优化数据采集与预处理流程，能为模型提供更优质的输入；设计高效的检索算法，实现快速准确的知识检索；构建合理的生成模型调用策略，使检索结果与生成内容有机融合。如果仅聚焦于 LLM 性能提升，而忽视系统其他环节的协同，可能会导致资源浪费且效果不佳。就像打造一辆高性能汽车，不能只关注发动机的功率，还需重视底盘调校、传动系统匹配等，只有系统各部分协调运作，才能发挥最大效能。

2. Expertise is your fuel

企业内部积累的专业知识才是驱动 AI 产生价值的核心。

企业在长期运营过程中积累了大量独特的专业知识，这些知识是 RAG Agent 产生实际价值的关键。不同企业在各自领域的业务流程、客户数据、行业经验等信息，具有高度特异性和不可替代性。以金融企业为例，其内部的风控策略、客户信用评估模型、特定市场的交易数据等，是支撑 RAG Agent 在金融场景下实现精准风险预警、智能客服等功能的核心资源。RAG Agent 通过对这些专业知识的学习和运用，能够解决企业特定的业务问题，创造独特的商业价值，而不是依赖通用的知识体系。

3. Enterprise scale is your moat 

大规模处理企业数据的能力才是护城河。

企业独特数据是核心竞争力，重点要放在：让AI有效处理大规模、多源和含噪数据上，而非过度清洗数据。与其耗费大量精力进行过度的数据清洗，不如增强 AI 对这些数据的处理能力。通过优化数据存储架构、采用鲁棒性强的算法模型、改进检索策略等方式，使 RAG Agent 能够从大规模复杂数据中提取有价值的信息。例如，在零售企业中，RAG Agent 需要处理来自销售系统、库存系统、客户反馈等多源数据，即使这些数据存在噪声，也能挖掘出销售趋势、客户需求等关键信息，从而为企业决策提供支持，这种能力难以被轻易复制，构成了企业的技术护城河。

4. The gap between pilot and production is always larger than you expect

建立小规模试点相对容易，但是如果要扩展到生产环境，就会面临巨大挑战。

从试点项目到实际生产部署，存在诸多差异和挑战。试点阶段通常数据规模较小、场景简单，系统能够较为顺利地运行；而生产环境下，数据量会呈指数级增长，需要处理高并发请求，面临复杂的网络环境和严格的安全合规要求。例如，一个用于企业内部知识问答的 RAG Agent 试点项目，在小范围测试时响应速度快、准确率高，但当推广到全公司使用时，可能因同时在线用户激增、数据更新频繁等问题导致系统崩溃。因此，在开发过程中，必须提前规划生产环境的系统架构、资源配置、监控和维护方案，确保系统能够平稳过渡到生产阶段。

5. Speed is more important than perfection

速度比完美更重要，80分方案快速上线往往优于追求100分的延迟交付，过早追求完美，会延长开发周期，错失市场机会。

在商业竞争中，时间就是机会。等待一个 “完美” 的 RAG Agent 解决方案，可能会错过市场的最佳切入时机。快速推出一个具备核心功能的 80 分产品，能够及时收集用户反馈，根据实际需求进行迭代优化。例如，一款面向电商的 RAG Agent 智能客服，若为追求完美的功能和准确率而延迟上线，可能会让竞争对手抢占市场份额。而先推出基础版，根据用户使用过程中提出的问题，如回答不准确、响应慢等，有针对性地改进，反而能更快地满足市场需求，实现产品的快速迭代升级。

6. Engineers spends a lot of time on boring stuff

不要让工程师在无聊的事情上花费大量的时间，工程师的精力不能消耗在分块策略、提示工程等底层优化上。

分块策略、提示工程等底层优化工作虽然重要，但不应占据工程师过多的时间和精力。这些重复性、细节性的工作可以通过自动化工具或标准化流程来完成，让工程师将更多精力投入到核心功能开发和系统架构设计上。例如，利用开源的分块算法库和提示工程模板，结合企业自身数据特点进行简单调整，即可快速应用到项目中。这样既能保证底层优化的质量，又能提高开发效率，使工程师专注于提升 RAG Agent 的核心竞争力。

7.Make AI esay to consume

要让AI易于消费，将AI嵌入现有业务系统，而非独立工具，以降低用户使用门槛。

将 RAG Agent 独立作为一个工具，可能会增加用户的使用成本和学习难度，导致接受度不高。而将其嵌入企业现有的业务系统中，如办公软件、管理平台等，能够无缝融入用户的工作流程。例如，将 RAG Agent 集成到企业的 OA 系统中，员工在撰写报告、处理工作任务时，可直接调用智能辅助功能，获取相关知识和建议，无需切换到其他独立应用。这种方式降低了用户的使用门槛，提高了 RAG Agent 的使用率和实用性，真正实现 AI 与业务的深度融合。

8.Wow your users

要让AI应用产生粘性，让你的用户体验到“惊叹”时刻，比如，用户首次使用，即解决历史难题，发现隐藏知识。

为了让用户对 RAG Agent 产生依赖和信任，需要在关键场景下为用户带来 “惊叹” 的体验。当用户首次使用时，就能解决长期困扰的难题，或发现隐藏在数据中的有价值信息，会极大地提升用户对产品的认可度。比如，在科研领域，RAG Agent 能够快速从海量文献中挖掘出与研究课题相关的关键信息和潜在关联，帮助科研人员发现新的研究方向，这种超出预期的使用体验，会让用户深刻感受到 AI 的强大能力，从而增加产品的粘性和口碑传播。

9.Observability matters more than accuracy

可观测性比准确率更重要。在保证基础准确率后，重点要转向归因追溯、审计追踪和错误分析，然后，建立反馈闭环监控系统，确保合规并持续改进。

在保证 RAG Agent 基础准确率的前提下，可观测性显得尤为重要。通过建立完善的归因追溯机制，能够清晰了解 AI 回答的依据和推理过程；实施审计追踪，确保系统运行符合法规和企业要求；进行错误分析，及时发现问题并改进。例如，当 RAG Agent 给出错误答案时，通过可观测性工具能够追踪到是检索环节未获取到正确信息，还是生成模型出现偏差，进而针对性地优化系统。这种反馈闭环监控系统，有助于持续提升系统的可靠性和稳定性，保障 AI 应用的长期有效运行。

10.Be ambitious

要有雄心壮志。因为项目失败，往往不是因为目标太高，而是因为目标太低，所以要敢于挑战，能真正带来业务转型的难题。

设定具有挑战性的目标，能够激发团队的创新潜力和动力。如果目标过于保守，可能导致产品缺乏竞争力，无法为企业带来实质性的业务转型。虽然挑战高难度目标存在失败的风险，但一旦成功，将为企业带来巨大的竞争优势和商业价值。例如，某制造企业设定目标，利用 RAG Agent 实现生产流程的全面智能化优化，涉及设备维护预测、生产计划动态调整等复杂问题。尽管过程充满挑战，但一旦达成，将显著提高生产效率、降低成本，实现企业的数字化转型和跨越式发展。

03 建议的融合实践与典型案例

在实际开发中，Kiela 提出的 10 条建议往往需要相互配合，才能打造出高效、实用的 RAG Agent。以医疗领域为例，某医疗科技公司在开发辅助诊断 RAG Agent 时，充分践行了这些理念。

在系统设计上，该公司构建了包含病历数据采集、医学文献检索、医学知识图谱构建以及诊断模型生成的完整系统。通过对数据管道的优化，实现了从医院电子病历系统、医学数据库等多源数据的高效整合与预处理；检索环节采用了基于语义理解的混合检索策略，结合了关键词检索与向量检索，与生成模型深度融合，确保能快速、精准地为医生提供辅助诊断信息。

在专业化方面，该 RAG Agent 聚焦于心血管疾病诊断领域，深入学习心血管疾病相关的医学知识、诊疗指南和典型病例。针对噪声数据，系统采用了鲁棒性强的机器学习算法，并通过数据增强技术模拟实际诊疗中可能出现的不完整、错误数据，提高模型对噪声的适应能力。

从试点到生产，公司采用系统化的工程方法，搭建了高并发、高可用的服务器架构，建立了实时监控和数据更新机制。产品先以 MVP 形式在部分医院试点，收集医生反馈后快速迭代优化。同时，提供简洁易用的 API 接口，方便与医院现有系统集成；通过在复杂病例诊断中提供精准、全面的辅助建议，为医生带来良好的用户体验；完善的可观测性设计，能及时追踪诊断依据，便于后续复盘优化。凭借这种全方位的开发策略，该 RAG Agent 显著提升了医生的诊断效率与准确性，获得广泛认可。

04 RAG Agent 未来发展趋势展望

随着技术的不断进步，RAG Agent 也将迎来新的发展机遇与挑战。从技术层面来看，多模态融合将成为重要趋势。未来的 RAG Agent 不仅能够处理文本数据，还将整合图像、视频、音频等多模态信息。例如在医疗影像诊断中，RAG Agent 可以结合 X 光、CT 影像与病历文本信息，进行更全面的分析诊断；在教育领域，结合教学视频、课件文本和学生的语音提问，提供更个性化的学习指导。

与大模型的深度融合也值得期待。随着大模型能力的不断增强，RAG Agent 可以更好地利用大模型的强大语义理解和生成能力，同时借助检索增强机制，弥补大模型在知识时效性和特定领域知识深度上的不足，实现优势互补。此外，在隐私计算技术的支持下，RAG Agent 将能够在保护数据隐私的前提下，实现跨机构、跨领域的数据协同，拓展应用边界。

在应用层面，RAG Agent 将进一步向更多行业和场景渗透。除了现有的医疗、金融、教育等领域，在智能制造、智能交通、文化创意等行业也将发挥重要作用。比如在智能制造中，RAG Agent 可以根据生产数据、设备手册和工艺要求，实时提供生产优化建议；在文化创意领域，辅助创作者进行素材检索、创意生成等工作。

然而，RAG Agent 的发展也面临着诸多挑战。例如，如何在多模态信息处理中实现更高效的信息融合与协同；在与大模型结合时，如何优化系统架构以降低成本、提高运行效率；在广泛应用过程中，如何确保数据安全、算法公平以及伦理合规等问题，都需要开发者们在未来的研究与实践中不断探索解决