我要投稿

本地化大模型接入RagFlow错误记录

发布日期：2025-04-13 05:21:45 浏览次数： 4701

作者：是十三不是四十三

微信搜一搜，关注“是十三不是四十三”

前两天搭建一个RagFlow和基于vLLM框架的QwQ-32B模型，今天尝试把QwQ-32B接入RagFlow，测试一下RagFlow的功能，以及基于它构建Rag模型的效果。结果一堆错

，改了半天，这里记录一下

错误：连不上 connection error

首先确保宿主机是能够连得上大模型的服务的
登录ragflow容器内部测试连接，果然，连接失败

docker exec -it 0b527d272baa  /bin/bash curl -I http://10.10.10.10:8080

怀疑是容器的网络配置有问题，于是检查相关的配置文件 docker-compose-CN-oc9.yml，果然发现问题，在部署ragflow的时候为了避开端口冲突，我把原文件（docker-compose.yml）中的80端口改成了8090，也就是容器的80端口映射到宿主机的8090端口，但是我没改 docker-compose-CN-oc9.yml 中的配置！！！

修改完成后重启Docker服务

sudo systemctl restart docker

重新进入ragflow容器内部验证是否连通

curl -X POST http://10.128.32.23:8080/v1/chat/completions \>   -H "Content-Type: application/json" \>   -d '{>     "model": "QWQ-32B",>     "messages": [{"role": "user", "content": "你好"}]>   }'

顺利连通，到这里本来以为没事了，但是……

还是连不上，我真的天都塌了

继续排查，发现虽然我在部署QwQ-32B的时候比没有设置API-Key，但是在用代码or框架连接的时候这个API-Key必填！！！补充之后，连接成功！

53AI，企业落地大模型首选服务商

产品：场景落地咨询+大模型应用平台+行业解决方案

承诺：免费POC验证，效果达标后再合作。零风险落地应用大模型，已交付160+中大型企业

相关资讯

2026-04-27

Mem0 深度解析：智能记忆层的架构原理

2026-04-27

Karpathy的LLM Wiki + 3.5 万Star的Graphify：企业级 RAG 缺的真是知识图谱？

2026-04-23

2026 年做搜索就是做 Agent Memory

2026-04-22

专题解读 | 可更新的检索增强知识库发展方向及进展

2026-04-22

AI实践｜基于 Spring AI 从0到1构建 AI Agent

2026-04-22

我搭建了Karpathy的个人知识库，但发现成本高速度慢，我用一个更好的方案替代了。

2026-04-21

多轮对话时，RAG反复做重复召回，模型层与Milvus层分别如何解决？

2026-04-20

Codeindex · 让大模型更好地理解你的代码

联系获取

联系获取

160+中大型企业正在使用53AI

立即咨询预约演示

把握AI发展的机遇，共同探索、共同进步

2025-01-22

如何打造基于GenAI的员工服务机器人

2025-01-22

热点资讯

深度解析 PageIndex：无向量 RAG 框架的技术实现与原理剖析

2026-02-13

使用 Agent Skills 做知识库检索，能比传统 RAG 效果更好吗？

2026-02-03

告别向量数据库！PageIndex：让AI像人类专家一样阅读长文档

2026-02-03

RAG 落地全干货深度分享：从“效果不理想”到生产级 RAG 系统的进化之路

2026-02-06

告别“伪智能”代码：用 Spec + RAG 打造真正懂你的AI程序员

2026-02-06

OpenViking：面向 Agent 的上下文数据库

2026-02-02

知识基座：让“AI 越用越懂业务”的团队经验实践【天猫AI Coding实践系列】

2026-03-23

全网爆火的大模型AI知识库，保姆级教程来了

2026-04-06

效率神器 Claude-Mem：终结 AI “金鱼记忆”！自动保存上下文、可视化记忆流，开发体验提升 10 倍！

2026-02-06

从 RAG 到 Agentic Search，一次关于信任 AI 判断的认知升级

2026-02-05

大家都在问

Karpathy的LLM Wiki + 3.5 万Star的Graphify：企业级 RAG 缺的真是知识图谱？

2026-04-27

多轮对话时，RAG反复做重复召回，模型层与Milvus层分别如何解决？

2026-04-21

企业AI落地三重门，用友如何破局？

2026-03-17

Embedding相似度虚高，如何用langchain+Milvus搭建CRAG解决？

2026-03-11

不用向量数据库的 RAG，居然跑得更准了？

2026-02-22

当RAG遇上Agent记忆：为什么相似度检索会"塌方"？

2026-02-15

Claude Cowork 真能替换 RAG ？

2026-02-04

使用 Agent Skills 做知识库检索，能比传统 RAG 效果更好吗？

2026-02-03

热门标签

内容创作大模型技术个人提效 langchain llamaindex 多模态技术 RAG技术智能客服知识图谱模型微调 RAGFlow coze Dify Fastgpt Bisheng Qanything AI+汽车 AI+金融 AI+工业 AI+培训 AI+SaaS Skill 提示词技巧 AI+电商 AI面试数字员工 ChatBI AI知识库开源大模型智能营销智能硬件智能化改造 AI+医疗 MaxKB Palantir Glean Openclaw

应聘简历请发送至： ceo@53ai.com

联系我们

售前咨询

预约演示

微信扫码

添加专属顾问

回到顶部