我要投稿

一个月获得 9000 Star！这个开源项目牛！

发布日期：2024-05-27 13:24:31 浏览次数： 2231

作者：逛逛GitHub

微信搜一搜，关注“逛逛GitHub”

Ollama 是一个轻量级、可扩展的大模型框架，这个开源项目能帮助你在本地电脑上玩转和运行大语言模型。

如果你的电脑没有 GPU 也是能使用的，只不过大模型会使用 CPU 计算慢一些。

第一步部署

Ollama 支持 macOS、Windows 预览版和 Linux 系统。你可以直接去开源项目的主页去找最新的部署方式：github.com/ollama

或者使用 Docker 来快速启动 Ollama。此外，Ollama还提供了Python 和 JavaScript 库，方便开发者集成到自己的项目中。

macOS

下载链接：github.com/ollama/ollama#macos

Windows预览版

下载链接：github.com/ollama/ollama#windows-preview

Linux

安装命令：

curl -fsSL https://ollama.com/install.sh | sh

Docker

Ollama 的官方 Docker 镜像可在 Docker Hub 上找到，名为`ollama/ollama`。

第二步下载模型

Ollama支持一系列模型，可以去 ollama.com/library 去下载，例如 Llama 3、Gemma、Mistral和国内的千问等模型都支持，具有不同的参数和大小，用户可以根据需要下载和运行。

下载完成，你就能在本地电脑上随意的切换和使用你下载的大模型了。

第三步运行模型

你可以打开命令行，使用使用 ollama run 命令运行模型，比如：

$ ollama run gemma:2b

执行这个命令会启动 Ollama REPL，你可以在其中与 Gemma 2B 模型进行交互。以下是示例：

第四步：Web 界面

如果你不喜欢在命令行的窗口使用大模型，推荐你使用 Ollama WebUI ，启动后你可以看到一个干净、直观的界面，类似于 ChatGPT 的界面。

开源地址：https://github.com/open-webui/open-webui

53AI，企业落地大模型首选服务商

产品：场景落地咨询+大模型应用平台+行业解决方案

承诺：免费POC验证，效果达标后再合作。零风险落地应用大模型，已交付160+中大型企业

相关资讯

2024-07-10

科研助力神器：Scholar GPT，百倍提升你的研究效率！

2024-07-09

Doc2X：一款功能超级强大的文档解析与转换工具

2024-07-06

我对多智能体协作过程自动演化架构设计

2024-07-06

可穿戴AI，底层逻辑的变化

2024-07-06

一文彻底搞懂Transformer - Word Embedding（词嵌入）

2024-07-06

AI动态 | 腾讯元宝AI搜索能力升级：深度搜索模式上线

2024-07-06

智能手表 + AI ，都已经这么智能了？？

2024-07-06

死磕10万卡GPU算力集群，腾讯星脉网络2.0有什么秘密武器？

联系获取

联系获取

160+中大型企业正在使用53AI

立即咨询预约演示

把握AI发展的机遇，共同探索、共同进步

2025-01-22

如何打造基于GenAI的员工服务机器人

2025-01-22

热点资讯

独家实录｜唐杰、杨植麟、林俊旸、姚顺雨...All Star 对话上，大家聊了啥？

2026-01-10

Pencil：设计和写代码，以后就全让AI干了

2026-01-24

我挖到Gemini 3.0 Pro十大隐藏玩法，做网页已经落后N个版本了

2025-11-19

全新AI编程工具 Google Antigravity 实测，特别适合产品经理

2025-11-19

深度体验TRAE SOLO 正式版，总结一点技巧(附完整可重现提示词和源码)

2025-11-13

我错了，Gemini 做PPT不是“一般”，是“封神”。（尤其挖到第3层功能后…）

2025-11-03

OpenAI Codex 实用技巧介绍

2025-11-14

2026 开年 AI 工具推荐，让你新的一年效率起飞！（建议收藏）

2026-01-01

从0到1玩转Clawdbot：我花了40小时，把这些坑都踩完了

2026-01-26

一文彻底看懂 Google 最新开源 A2UI 协议：如何让 AI Agent “说出UI” ？

2025-12-22

大家都在问

Transformers V5正式发布！这次更新到底香不香？

2026-01-30

从 "实习生" 到 "超级专家"：Claude Skills 凭什么颠覆 AI 工作流？

2026-01-29

在树莓派CM0上部署 Clawdbot 真的有那么神奇吗？

2026-01-29

一夜爆火，Clawdbot是否才是真正的AI入口产品？

2026-01-28

Agent Sandbox 深度解析：当 AI 学会“动手”，我们如何不被它“误伤”？

2026-01-28

从 Workflow 到 Skills：Claude出手，Dify 和 Coze 们的路还有多宽？

2026-01-28

Claude Code 浏览器自动化方案，怎么选？

2026-01-28

在大学里“知识图谱”，真的有人用吗？

2026-01-27

热门标签

内容创作大模型技术个人提效 langchain llamaindex 多模态技术 RAG技术智能客服知识图谱模型微调 RAGFlow coze Dify Fastgpt Bisheng Qanything AI+汽车 AI+金融 AI+工业 AI+培训 AI+SaaS 提示词框架提示词技巧 AI+电商 AI面试数字员工 ChatBI AI知识库开源大模型智能营销智能硬件智能化改造 AI+医疗 MaxKB Palantir Glean

应聘简历请发送至： ceo@53ai.com

联系我们

售前咨询

预约演示

微信扫码

添加专属顾问

回到顶部