微信扫码
添加专属顾问
我要投稿
技术栈:Omllama + Llama3 + MaxKB
Omllama:是一个开源的大型语言模型服务工具,用户只需执行一条命令即可在本地运行开源大型语言模型。
Llama3:是Meta(原Facebook)旗下最新的大语言模型,Llama 3已经开放了80亿(8B)和700亿(70B)两个参数版本。
MaxKB:是一款基于 LLM 大语言模型的知识库问答系统。MaxKB = Max Knowledge Base,旨在成为企业的最强大脑。
部署Omllama:
ollama目前Windows/linux等全平台支持,且支持docker方式部署,这里演示mac版。
直接通过下方链接地址下载,然后根据提示下一步安装即可。
项目地址:https://github.com/ollama/ollama
运行Llama3:
ollama支持的大模型很多,除了llama3,可以根据自己的需要选择:
我的Mac系统只有16G,所以这里选择8B版的,也是默认模型。打开terminal:
ollama run llama3
首次运行需要下载,大小4.7GB,后期再次运行不需要下载。
部署MaxKB:
直接通过docker部署:
docker run -d --name=maxkb -p 8080:8080 -v ~/.maxkb:/var/lib/postgresql/data 1panel/maxkb
访问本地8080端口:
先创建一个关于jumpserver的FAQ库:
创建后程序会自动抓取数据(文本或者网页),并进行模型优化,自动分段。
创建应用:
问答测试:
(问答系统结果)
(源文档内容)
经过简单的测试和微调,回答的速度非常快,而且准确,完全可以在企业中运用起来。
53AI,企业落地大模型首选服务商
产品:场景落地咨询+大模型应用平台+行业解决方案
承诺:免费POC验证,效果达标后再合作。零风险落地应用大模型,已交付160+中大型企业
2026-04-08
用 AI 搭了一座会生长的知识库
2026-04-08
企业做知识库,不是存资料,是先把“谁说了算”搞清楚
2026-04-08
咨询 | Karpathy关于如何构建第二大脑和知识库的内容,我们根据知识工作者行业进行了一些适配,可以直接拿去使用
2026-04-08
中台已死,语义层将重塑数据架构|爱分析访谈
2026-04-07
本体+ 大模型:Knora 如何破解企业AI落地中的幻觉与执行断层难题
2026-04-07
Karpathy又双叒叕发新概念了,这次我替你找到了那个产品
2026-04-07
我试了 Karpathy「让知识自己长出来」的方法,踩了 4 个坑
2026-04-07
AI大神卡帕西的知识管理方法刷屏,用Get笔记六步抄作业
2026-03-05
2026-02-11
2026-01-13
2026-02-11
2026-02-20
2026-03-23
2026-03-31
2026-01-25
2026-03-02
2026-01-11
2026-03-02
2026-02-27
2025-12-09
2025-11-22
2025-11-18
2025-11-13
2025-11-12
2025-09-23