我要投稿

Dify+Firecrawl本地部署RAG知识库chatbot

发布日期：2025-06-16 06:22:27 浏览次数： 1749

作者：功课笔记拾遗

微信搜一搜，关注“功课笔记拾遗”

本文用于记录和描述如何在本地通过配置dify+firecral+Ollama的方式来实现RAG知识库chatbot。

整个配置流程在macos15.5下完成，其他操作系统还请依据实际情况更改对应内容。

安装dify

git clone git@github.com:langgenius/dify.git

配置dify环境变量

 cd dify/docker cp .env.example .env

我们可以对dify参数进行调整也可以直接使用默认参数

运行dify

docker-compose up -d

默认运行在80端口

首次登陆需要配置admin密码信息

首次登陆后需要配置模型提供商，点击右上角头像图标，设置

选择模型供应商，选择你需要使用的模型，我这里配置使用ollama

选择添加模型，配置本地地址，确保你的ollama已经运行并且可以被访问。

curl http://192.168.31.157:11434/v1/models

正确的话会输出当前ollama已经下载的模型列表

配置模型

可以配置多个，并且配置embedding模型

安装firecrawl爬虫工具

使用firecrawl还需要安装nodejs和pnpm为依赖，还请提前安装

 git clone git@github.com:mendableai/firecrawl.gi

修改firecrawl参数

cd firecrawlcp apps/api/.env.example ./.envvi .env

修改两个内容

USE_DB_AUTHENTICATION=false

TEST_API_KEY=xxxxx #记录该key后续配置会用上

启动firecrawl

在firecrawl的目录下运行

docker-compose up -d

firecrawl运行成功打开本地3002/test可以看到hello,world字样

打开dify，配置数据来源

api key使用刚才在env文件中所设置的内容

随后我们创建新的知识库

选择同步自web站点，我们以https://docs.dify.ai/zh-hans/guides为例子

限制数量设置为50，深度为3，代表让firecrawl抓取网页上最先出现的10个内容并且抓取这50个链接下的3层子目录

勾选删除所有url和电子邮件地址

选择混合检索，采用权重设置（本文不涉及RAG精度优化，暂不使用rerank模型）点击保存并处理。

我们可以看到知识库已经完成了创建并在embedding

embedding完成后我可以点击前往文档查看结果

可以看到利用firecrawl抓取的网页embedding所生成的文档

现在我们来创建一个新的应用，选择chatflow

在给出的模板基础上修改，在开始和llm中间增加知识检索节点

选择引用知识库，使用我们刚才创建的库

随后修改llm模型节点

修改温度（默认0.7）降到较低的值，使其回答更为稳妥。

上下文选择知识检索节点的result

在system prompt中输入根据下面的检索结果回答用户问题调用sys.query变量并调用上下文

我们选择预览，输入一个问题

如何配置embedding模型？

可以看到在思考的过程中引用了知识库的内容

回答的内容符合预期，可以发布了

我们选择发布。

点击运行，可以看到单独的chatbot页面，我们再次提问

如何配置插件？

可以看到对应的流程，符合预期。

当然我们也可以选择把chatbot嵌入到网站中，可以在发布下获取对应的代码。

53AI，企业落地大模型首选服务商

产品：场景落地咨询+大模型应用平台+行业解决方案

承诺：免费场景POC验证，效果验证后签署服务协议。零风险落地应用大模型，已交付160+中大型企业

相关资讯

2025-07-18

DeepEval使用自定义模型评估RAG实例

2025-07-18

用 LangGraph 打造了一个迷你 RAG：150 行代码跑通知识库问答

2025-07-18

RAG文档处理的一种优化方案——问答对的转换技巧

2025-07-18

【精读】构建和扩展 RAG 系统的实践经验总结

2025-07-17

聊聊在Dify上如何做高效RAG&集成Milvus向量库存储检索的原理

2025-07-17

基于Dify 知识库的实验demo：从0到1构建智能商品分类系统

2025-07-16

Dify智能体开发：RAG 技术深度解析与知识库实战指南

2025-07-16

爆改RAG！Relevant Segment Extraction（RSE）让你的AI检索“有头有尾”，不再碎片化

了解更多

了解更多

160+中大型企业正在使用53AI

立即咨询预约演示

把握AI发展的机遇，共同探索、共同进步

2025-01-22

如何打造基于GenAI的员工服务机器人

2025-01-22

热点资讯

深度解读：LlamaIndex 实现 RAG 重排序的关键要点

2025-05-08

RAG技巧与底层代码剖析

2025-06-06

RAG进阶：Embedding Models嵌入式模型原理和选择

2025-04-23

2025年GitHub上十大RAG框架深度解析：从技术原理到实战应用

2025-05-30

淘天⾃营质量技术AI智能体的实践和思考

2025-05-19

RAGFlow中的Embeddings模型选择及向量数据库选型与实现分析

2025-06-05

如何构建基于n8n的RAG日报工作流（手把手教程）

2025-05-10

解决 AI 代码幻觉！用 Context7 获取最新文档，支持 MCP 调用

2025-04-28

RAG技术全解析：从基础原理到优化实战

2025-06-05

检索增强生成（RAG）深度教程

2025-04-21

大家都在问

AI大模型落地最后一公里：RAG？

2025-07-09

向量相似度检索遇到天花板，是否我们走错了？

2025-07-04

RAG检索策略深度解析：从BM25到Embedding、Reranker，如何为LLM选对“导航系统”？

2025-07-01

从碎片到图谱：Graph RAG如何用知识网络颠覆传统搜索？

2025-07-01

qodo如何构建大型代码仓库的RAG？

2025-07-01

RAG系统的“聪明药”：如何用反馈回路让你的AI越用越聪明？

2025-07-01

GraphRAG的索引动态更新解法-分桶+局部更新及“上下文工程”新概念？

2025-06-30

你的RAG系统安全么？

2025-06-29

热门标签

内容创作大模型技术个人提效 langchain llamaindex 多模态技术 RAG技术智能客服知识图谱模型微调 RAGFlow coze Dify Fastgpt Bisheng Qanything AI+汽车 AI+金融 AI+工业 AI+培训 AI+SaaS 提示词框架提示词技巧 AI+电商 AI面试数字员工 ChatBI 知识管理开源大模型智能营销智能硬件智能化改造 AI+医疗 MaxKB

应聘简历请发送至： ceo@53ai.com

友情链接：

CopyRight © 2012-2024 深圳市博思协创网络科技有限公司版权所有

粤ICP备17114055号

广州：广州市华景路37号(华景软件园)暨南大学科技大厦6楼（整层）

深圳：深圳市福田区泰然四路29号天安创新科技广场一期A座1204

上海：上海市浦东新区金新路58号1602室

微信扫码
和创始人交个朋友

联系我们

售前咨询

预约演示

微信扫码

添加专属顾问

回到顶部