我要投稿
微信搜一搜，关注“Python解千愁”
大模型在训练时学习到的知识大部分都是些通用知识，当我们向它提问一下专业领域的知识时，往往不能得到很多的效果。
对于这种情况，我们可以将涉及到的一些专业或预备知识构建成知识库，在模型回答问题时让它去知识库中找到最相关的段落，然后带着这些知识与问题一起生成更精准的回答。
在这方面目前已经有了比较成熟的开源项目MaxKB，说不多话，直接分享如何搭建本地大模型知识库
首先登录ollama官网(https://ollama.com/download/)，点击对应操作系统下载后一键安装
ollama本地部署开源模型
docker拉取MaxKB镜像并运行
官方指导文档（https://maxkb.cn/docs/installation/online_installtion/）
docker run -d --name=maxkb -p 8080:8080 -v ~/.maxkb:/var/lib/postgresql/data -v ~/.python-packages:/opt/maxkb/app/sandbox/python-packages cr2.fit2cloud.com/1panel/maxkb
通过8080端口访问(默认用户名admin,密码MaxKB@123..)进去后可以修改密码
选择添加ollama供应商
如果基础模型不在选项中，可以直接填写ollama run的模型名称然后回车，api域名填ollama所在机器的ip:11434端口，本地大模型的apikey随意填非空即可
（如果添加后显示api域名无效，首先确保不要使用127.0.0.1和localhost，还是不行修改环境变量OLLAMA_HOST为0.0.0.0再重启ollama）
创建知识库
点击上传文档，然后创建并导入
选择智能分段并导入，完成后如下图
然后创建应用
选择之前创建的模型，关联创建的知识库，最后保存并发布
选中概览，点击演示
与直接在模型中提问比较效果
由于我构建知识库时上传pdf的是一篇讨论中国在人工智能产业发展中挑战的论文，所以其回答明显提取了论文中的信息与观点
53AI，企业落地大模型首选服务商
产品：场景落地咨询+大模型应用平台+行业解决方案
承诺：免费POC验证，效果达标后再合作。零风险落地应用大模型，已交付160+中大型企业
2025-07-29
AGI｜知识治理：直击知识库知识质量与精准检索痛点
2025-07-29
AI 如何让数据管理效率提升 10 倍？
2025-07-29
企业利用AI构建知识库是否为伪需求？
2025-07-27
AI知识库系列：对比传统知识库，帮你 3 步搞懂 AI 知识库 RAG，彻底搞清两者的本质区别！
2025-07-26
AI重构组织｜部门墙终将消失，孤岛终将合一
2025-07-26
腾讯文档藏了个AI知识库，AI帮我秒搜资料、提炼总结、回答问题（附激活方法）
2025-07-25
会话存档为什么比工作手机更适合企业？
2025-07-23
纷享销客通过国际 AI 管理体系认证，树立企业级可信 AI 新标杆
2025-07-15
2025-07-15
2025-05-12
2025-05-28
2025-05-07
2025-05-25
2025-06-15
2025-05-22
2025-05-21
2025-05-26
回到顶部
粤ICP备14082021号