我要投稿

本地化大模型接入RagFlow错误记录

发布日期：2025-04-13 05:21:45 浏览次数： 4300

作者：是十三不是四十三

微信搜一搜，关注“是十三不是四十三”

前两天搭建一个RagFlow和基于vLLM框架的QwQ-32B模型，今天尝试把QwQ-32B接入RagFlow，测试一下RagFlow的功能，以及基于它构建Rag模型的效果。结果一堆错

，改了半天，这里记录一下

错误：连不上 connection error

首先确保宿主机是能够连得上大模型的服务的
登录ragflow容器内部测试连接，果然，连接失败

docker exec -it 0b527d272baa  /bin/bash curl -I http://10.10.10.10:8080

怀疑是容器的网络配置有问题，于是检查相关的配置文件 docker-compose-CN-oc9.yml，果然发现问题，在部署ragflow的时候为了避开端口冲突，我把原文件（docker-compose.yml）中的80端口改成了8090，也就是容器的80端口映射到宿主机的8090端口，但是我没改 docker-compose-CN-oc9.yml 中的配置！！！

修改完成后重启Docker服务

sudo systemctl restart docker

重新进入ragflow容器内部验证是否连通

curl -X POST http://10.128.32.23:8080/v1/chat/completions \>   -H "Content-Type: application/json" \>   -d '{>     "model": "QWQ-32B",>     "messages": [{"role": "user", "content": "你好"}]>   }'

顺利连通，到这里本来以为没事了，但是……

还是连不上，我真的天都塌了

继续排查，发现虽然我在部署QwQ-32B的时候比没有设置API-Key，但是在用代码or框架连接的时候这个API-Key必填！！！补充之后，连接成功！

53AI，企业落地大模型首选服务商

产品：场景落地咨询+大模型应用平台+行业解决方案

承诺：免费POC验证，效果达标后再合作。零风险落地应用大模型，已交付160+中大型企业

相关资讯

2026-01-28

Semantic Kernel内存管理系统——为AI注入持久记忆与上下文感知能力

2026-01-28

AgentSkills 揭示的真相：上下文工程走错了三年

2026-01-25

Langgraph从零开始构建第一个Agentic RAG 系统

2026-01-24

大模型在需求分析与设计中的提效实践

2026-01-23

GraphRAG：让 RAG 看见"关系网络"的技术进化

2026-01-22

企业级 AI 知识库问答，是不是面子工程？ – 是也不是

2026-01-21

SentGraph：一句一句把多跳RAG“画”成图

2026-01-21

增强型RAG还是Agentic RAG？一场关于检索增强生成系统的全面对比实验

联系获取

联系获取

160+中大型企业正在使用53AI

立即咨询预约演示

把握AI发展的机遇，共同探索、共同进步

2025-01-22

如何打造基于GenAI的员工服务机器人

2025-01-22

热点资讯

RAGFlow 深度介绍

2025-10-31

RAG 深度解读：检索增强生成如何改变人工智能

2025-12-04

大模型RAG入门宝典｜从AI搜索到实战搭建，小白&程序员必收藏的检索增强指南

2025-12-03

大模型生态的“不可能三角”：规模化应用的架构困境？

2025-11-04

RAGFlow v0.22.0 发布：数据源同步、变量聚合、全新管理界面与多项重大更新

2025-11-13

企业级 AI Agent规模化落地的避坑指南，就藏在这四大趋势里

2025-12-02

5步构建企业级RAG应用：Dify与LangChain v1.0集成实战

2025-11-13

从 RAG 到 Agentic RAG，再到 Agent Memory：AI 记忆的进化三部曲

2025-11-05

RAG已经过时了？试试CAG，缓存增强生成技术实战大揭秘！

2025-11-06

Embedding模型选型思路：相似度高不再代表检索准确（文末附实战指南）

2025-12-07

大家都在问

为什么 RAG 越用越慢？如何反向调优？

2026-01-19

NotebookLM如何在48小时内分析2万份论文？

2026-01-12

都有混合检索与智能路由了，谁还在给RAG赛博哭坟？

2026-01-08

如何用NotebookLM，把枯燥的财报解读成精美的PPT？

2026-01-02

为什么Claude Code不用RAG？

2025-12-23

终于，NotebookLM 和 Gemini 合体了。这是什么神之更新？

2025-12-21

Apple 入局 RAG：深度解析 CLaRa 框架，如何实现 128x 文档语义压缩？

2025-12-10

RAG知识库迎来大洗牌：GraphRAG如何让机器真正读懂世界？

2025-11-23

热门标签

内容创作大模型技术个人提效 langchain llamaindex 多模态技术 RAG技术智能客服知识图谱模型微调 RAGFlow coze Dify Fastgpt Bisheng Qanything AI+汽车 AI+金融 AI+工业 AI+培训 AI+SaaS 提示词框架提示词技巧 AI+电商 AI面试数字员工 ChatBI AI知识库开源大模型智能营销智能硬件智能化改造 AI+医疗 MaxKB Palantir Glean

应聘简历请发送至： ceo@53ai.com

联系我们

售前咨询

预约演示

微信扫码

添加专属顾问

回到顶部