粤ICP备17114055号
微信扫码
添加专属顾问
支持私有化部署
我要投稿
技术栈：Omllama + Llama3 + MaxKB
Omllama：是一个开源的大型语言模型服务工具，用户只需执行一条命令即可在本地运行开源大型语言模型。
Llama3：是Meta（原Facebook）旗下最新的大语言模型，Llama 3已经开放了80亿（8B）和700亿（70B）两个参数版本。
MaxKB：是一款基于 LLM 大语言模型的知识库问答系统。MaxKB = Max Knowledge Base，旨在成为企业的最强大脑。
部署Omllama：
ollama目前Windows/linux等全平台支持，且支持docker方式部署，这里演示mac版。
直接通过下方链接地址下载，然后根据提示下一步安装即可。
项目地址：https://github.com/ollama/ollama
运行Llama3：
ollama支持的大模型很多，除了llama3,可以根据自己的需要选择：
我的Mac系统只有16G，所以这里选择8B版的，也是默认模型。打开terminal：
ollama run llama3
首次运行需要下载，大小4.7GB，后期再次运行不需要下载。
部署MaxKB：
直接通过docker部署：
docker run -d --name=maxkb -p 8080:8080 -v ~/.maxkb:/var/lib/postgresql/data 1panel/maxkb
访问本地8080端口：
先创建一个关于jumpserver的FAQ库：
创建后程序会自动抓取数据（文本或者网页），并进行模型优化，自动分段。
创建应用：
问答测试：
（问答系统结果）
（源文档内容）
经过简单的测试和微调，回答的速度非常快，而且准确，完全可以在企业中运用起来。
53AI，企业落地大模型首选服务商
产品：场景落地咨询+大模型应用平台+行业解决方案
承诺：免费场景POC验证，效果验证后签署服务协议。零风险落地应用大模型，已交付160+中大型企业
2025-04-29
Flomo MCP：用自然语言对话打造你的第二大脑，效率提升100%的秘诀在这里！
2025-04-29
用「飞书知识问答」打造你的「超级AI教师助理」
2025-04-28
智能运维新时代：如何打造你的专属知识库
2025-04-28
在人工智能时代，需要重新审视企业显性知识、隐性知识以及“内隐”知识的管理范式
2025-04-27
用AI重构知识管理：重塑Obsidian工作流的三层进阶指南
2025-04-27
人人用AI ≠ 组织AI化，什么是智能组织？
2025-04-26
2025年，建议你一定要用 AI 搭建个人知识库
2025-04-26
WiseMindAI 上线 AI 知识库功能，效率翻倍，本地数据超安心！
2024-09-14
2025-01-23
2024-07-10
2024-11-07
2025-02-17
2024-04-24
2024-08-04
2024-06-23
2024-05-15
2024-07-10
2025-04-27
2025-04-20
2025-04-17
2025-04-17
2025-04-13
2025-04-12
2025-04-11
2025-04-06
回到顶部