我要投稿

25.7k star! 用langchain-chatchat部署私有化RAG知识库

发布日期：2024-04-23 23:17:37 浏览次数： 3297

作者：AI技术实战

微信搜一搜，关注“AI技术实战”

langchain-chatchat是一个基于 ChatGLM 等大语言模型与 Langchain 等应用框架实现，开源、可离线部署的检索增强生成(RAG)大模型知识库项目，采用Apache License，可以免费商用。该项目支持市面上主流的本地大语言模型和Embedding模型，支持开源的本地向量数据库。

以下是作者实测部署问答效果：

1.docker一键部署

不需要在宿主机上安装CUDA，但需要安装NVIDIA Driver以及NVIDIA Container Toolkit，安装方法参考https://docs.nvidia.com/datacenter/cloud-native/container-toolkit/latest/install-guide.html，接下来使用docker一键部署：

docker run -d --gpus all -p 8501:8501 --name langchain-chatchat registry.cn-beijing.aliyuncs.com/chatchat/chatchat:0.2.7

镜像43.1G，需要等待较长时间。部署成功后访问http://localhost:8501

2.聊天

聊天界面支持多种LLM，可以自己选择。但总体来说实现比较简单，没有账号管理与自动保存聊天等功能，设置的参数也不能保存，与之前介绍的247.2k star! 超强大的私有化ChatGPT，支持图像识别/文生图/语音输入/文本朗读，个人电脑可运行！相比逊色不少。

3.知识库

知识库的功能做的还不错，新建知识库时有多种Embedding模型可以选择：

支持多种文档格式和分词参数设置

问答前需要选择模型，并且选择一个知识库（一个知识库可以包含多个文档），作者找了一个新闻测试知识库问答，没有回答出来，知识库问答需要嵌入模型、分词参数和大模型结合使用，可能还是配置的不合理。

4.总结

个人感觉聊天的体验一般，知识库的功能设计还不错，但是问答的效果不太好，感兴趣的朋友可以留言讨论一下用哪些模型和参数能达到比较好的效果，也可以推荐一些实测效果较好的项目。

53AI，企业落地大模型首选服务商

产品：场景落地咨询+大模型应用平台+行业解决方案

承诺：免费POC验证，效果达标后再合作。零风险落地应用大模型，已交付160+中大型企业

相关资讯

2025-07-30

优化 AI 问答准确率：知识库实践与避坑指南

2025-07-30

RAG召回优化完全指南：从理论到实践的三大核心策略！

2025-07-30

RAG 检索四件套全解析：模型、向量库、检索方式、排序器，一文选型不踩坑

2025-07-30

从0到1，彻底搞懂 RAG 分块的艺术（附开源代码）

2025-07-30

大规模RAG实施蓝图

2025-07-29

一小时内构建基于Gemma与Bright Data的生产级RAG应用

2025-07-28

做RAG系统到底是选MaxKB还是FastGPT

2025-07-28

企业RAG之构建 FastMCP 服务：基于模型上下文协议的智能服务体系搭建实践

了解更多

160+中大型企业正在使用53AI

立即咨询预约演示

把握AI发展的机遇，共同探索、共同进步

2025-01-22

如何打造基于GenAI的员工服务机器人

2025-01-22

热点资讯

RAG技巧与底层代码剖析

2025-06-06

2025年GitHub上十大RAG框架深度解析：从技术原理到实战应用

2025-05-30

RAGFlow中的Embeddings模型选择及向量数据库选型与实现分析

2025-06-05

淘天⾃营质量技术AI智能体的实践和思考

2025-05-19

深度解读：LlamaIndex 实现 RAG 重排序的关键要点

2025-05-08

如何构建基于n8n的RAG日报工作流（手把手教程）

2025-05-10

RAG技术全解析：从基础原理到优化实战

2025-06-05

ragflow架构解析及性能优化方式

2025-05-20

知识图谱+RAG：大幅提升智能问答系统准确率

2025-06-05

让大模型“记住”更多：RAG与长期记忆

2025-05-09

大家都在问

长文本放提示词中还是采用 RAG？

2025-07-28

AI大模型落地最后一公里：RAG？

2025-07-09

向量相似度检索遇到天花板，是否我们走错了？

2025-07-04

RAG检索策略深度解析：从BM25到Embedding、Reranker，如何为LLM选对“导航系统”？

2025-07-01

从碎片到图谱：Graph RAG如何用知识网络颠覆传统搜索？

2025-07-01

qodo如何构建大型代码仓库的RAG？

2025-07-01

RAG系统的“聪明药”：如何用反馈回路让你的AI越用越聪明？

2025-07-01

GraphRAG的索引动态更新解法-分桶+局部更新及“上下文工程”新概念？

2025-06-30

热门标签

内容创作大模型技术个人提效 langchain llamaindex 多模态技术 RAG技术智能客服知识图谱模型微调 RAGFlow coze Dify Fastgpt Bisheng Qanything AI+汽车 AI+金融 AI+工业 AI+培训 AI+SaaS 提示词框架提示词技巧 AI+电商 AI面试数字员工 ChatBI 知识管理开源大模型智能营销智能硬件智能化改造 AI+医疗 MaxKB