我要投稿

使用Ollama本地离线运行大模型

发布日期：2024-08-20 05:30:09 浏览次数： 3354

作者：mingupup的学习记录

微信搜一搜，关注“mingupup的学习记录”

Ollama介绍

用于启动并运行大型语言模型。

GitHub地址：https://github.com/ollama/ollama

官方网站：https://ollama.com/

实践

根据README的指引，安装对应系统的Ollama。

由于我的电脑比较旧了，配置如下：

所以就选择一个参数小一点的大模型，我选择的是phi3 3.8b的版本。

在控制台输入：

ollama run phi3:latest

即可。

没下载这个模型会自动下载，下载好了就可以开始对话。

对于开发者而言，还可以通过Ollama提供的接口来接入自己的应用：

3.8b参数的大模型在我这台电脑上就已经跑的很慢了，尝鲜是可以的，真要使用如果没有离线的需求并且没有显卡还是使用云平台比较好，现在也有很多免费的模型使用了，而且收费的话个人使用也花不了多少钱。如果有显卡资源并且有离线使用的需求，可以考虑使用Ollama本地离线运行大模型。

53AI，企业落地大模型首选服务商

产品：场景落地咨询+大模型应用平台+行业解决方案

承诺：免费POC验证，效果达标后再合作。零风险落地应用大模型，已交付160+中大型企业

相关资讯

2026-02-09

奥特曼重磅发声：全AI公司是未来！OpenAI官宣Frontier，让管理Agent像管人一样简单

2026-02-09

全网最详细的Codex入门教程，手把手教你玩转Vibe Coding。

2026-02-09

张一鸣讲Context Not Control，真正的管理高手从不是在分配任务，而是请别人入局

2026-02-08

【访谈对话】造过 Codex 的人，为什么每天用 Claude Code

2026-02-07

程序员的最后一块拼图：为什么你必须学会用 Claude Code？

2026-02-07

OpenClaw 爆火却难部署？用 Cherry Studio 一键解锁，零门槛打造你的超级 AI Agent

2026-02-06

国产最强 AI 进军终端！Kimi Code CLI 正式发布，让你的命令行直接起飞

2026-02-06

AI记忆正成为新操作系统：检索已过时，生成式记忆才是未来

联系获取

联系获取

160+中大型企业正在使用53AI

立即咨询预约演示

把握AI发展的机遇，共同探索、共同进步

2025-01-22

如何打造基于GenAI的员工服务机器人

2025-01-22

热点资讯

Pencil：设计和写代码，以后就全让AI干了

2026-01-24

独家实录｜唐杰、杨植麟、林俊旸、姚顺雨...All Star 对话上，大家聊了啥？

2026-01-10

我挖到Gemini 3.0 Pro十大隐藏玩法，做网页已经落后N个版本了

2025-11-19

深度体验TRAE SOLO 正式版，总结一点技巧(附完整可重现提示词和源码)

2025-11-13

从0到1玩转Clawdbot：我花了40小时，把这些坑都踩完了

2026-01-26

2026 开年 AI 工具推荐，让你新的一年效率起飞！（建议收藏）

2026-01-01

Codex 史诗级更新！引入 Skills 技能库，直接兼容 Claude 生态，开发效率原地起飞

2025-12-09

国内版的 NotebookLM 来了，甚至更强

2025-11-12

Claude赢麻了？OpenAI Codex正式支持Skills，GitHub连夜上车！

2025-12-21

终于！Gemini CLI支持Agent Skills，一键搬运Claude Code的“绝招”

2026-01-09

大家都在问

程序员的最后一块拼图：为什么你必须学会用 Claude Code？

2026-02-07

谁动了我的电脑？谁应该抱怨？

2026-02-04

刚刚！OpenAI 正式发布 Codex App，一人指挥一支 AI 军队，Cursor 慌了？

2026-02-03

谷歌Genie 3打崩游戏股！1小时500元的AI生成游戏，真能革游戏的命？

2026-02-03

史上最强编程模型Claude 5泄露，最慌的是黄仁勋？

2026-02-02

X上点赞近万的Claude Agent SDK教程，到底讲了什么？

2026-02-02

人人都在谈论ClawdBot，但你真的懂它的技术原理吗？

2026-02-02

刚刚，谷歌版「世界模型」震撼公测！网友实测炸翻天：游戏末日来了？

2026-01-31

热门标签

内容创作大模型技术个人提效 langchain llamaindex 多模态技术 RAG技术智能客服知识图谱模型微调 RAGFlow coze Dify Fastgpt Bisheng Qanything AI+汽车 AI+金融 AI+工业 AI+培训 AI+SaaS 提示词框架提示词技巧 AI+电商 AI面试数字员工 ChatBI AI知识库开源大模型智能营销智能硬件智能化改造 AI+医疗 MaxKB Palantir Glean

应聘简历请发送至： ceo@53ai.com

联系我们

售前咨询

预约演示

微信扫码

添加专属顾问

回到顶部