我要投稿

使用Ollama本地离线运行大模型

发布日期：2024-08-20 05:30:09 浏览次数： 3789

作者：mingupup的学习记录

微信搜一搜，关注“mingupup的学习记录”

Ollama介绍

用于启动并运行大型语言模型。

GitHub地址：https://github.com/ollama/ollama

官方网站：https://ollama.com/

实践

根据README的指引，安装对应系统的Ollama。

由于我的电脑比较旧了，配置如下：

所以就选择一个参数小一点的大模型，我选择的是phi3 3.8b的版本。

在控制台输入：

ollama run phi3:latest

即可。

没下载这个模型会自动下载，下载好了就可以开始对话。

对于开发者而言，还可以通过Ollama提供的接口来接入自己的应用：

3.8b参数的大模型在我这台电脑上就已经跑的很慢了，尝鲜是可以的，真要使用如果没有离线的需求并且没有显卡还是使用云平台比较好，现在也有很多免费的模型使用了，而且收费的话个人使用也花不了多少钱。如果有显卡资源并且有离线使用的需求，可以考虑使用Ollama本地离线运行大模型。

53AI，企业落地大模型首选服务商

产品：场景落地咨询+大模型应用平台+行业解决方案

承诺：免费POC验证，效果达标后再合作。零风险落地应用大模型，已交付160+中大型企业

相关资讯

2026-06-26

腾讯混元AI Infra如何优化Hy3 Preview：一次大模型推理性能提升的技术拆解

2026-06-26

多智能体的记忆接线：同一任务，每个角色看到的不一样

2026-06-26

Agent 从 Demo 到生产级，中间到底差什么？

2026-06-26

Loop Engineering 到底是什么？看这一篇就够了

2026-06-26

基于组件化的工程（CBE）智能体

2026-06-26

从问答案到接任务 AI正在重写工作的基本单位

2026-06-26

AI Agent 正在变成基础设施，但你的质量治理还停在"试用一下"

2026-06-25

微信在金矿上孵化了啥？

联系获取

联系获取

160+中大型企业正在使用53AI

立即咨询预约演示

把握AI发展的机遇，共同探索、共同进步

2025-01-22

如何打造基于GenAI的员工服务机器人

2025-01-22

热点资讯

Claude Opus 4.7刚刚曝光！Claude Code一夜重构，7x24小时替你打工

2026-04-15

OpenAI Codex CLI 完整使用指南

2026-04-07

Claude Code 和 Codex 接入 Figma MCP 保姆级教程

2026-04-07

刚刚Qwen 3.6 Plus上线预览：1M上下文，阿里Coding/Agent翻身战打响

2026-03-31

GPT5.5来了，最大特点解析

2026-04-24

Claude Opus 4.7 发布，全网最详细解读

2026-04-17

突发！Claude Code 源码泄露，扒出这些隐藏功能

2026-03-31

GPT-6，曝光了

2026-04-05

GLM-5.1 实测：面向 Agent 长程任务的国内第一模型

2026-04-02

重磅！GPT-6曝光了

2026-04-05

大家都在问

Agent 从 Demo 到生产级，中间到底差什么？

2026-06-26

微信在金矿上孵化了啥？

2026-06-25

企业智能体的下半场，如何让智能体越用越聪明？

2026-06-18

Agent 记忆，我们全都理解错了？

2026-06-18

如何利用 Harness “一句话交付产品功能”？

2026-06-10

Loop Engineering 循环工程又是什么鬼？

2026-06-10

Agent 工程化五件套：Prompt、Skill、MCP、CLI 到底怎么配合？

2026-06-07

为什么云端 Agent 基建这么难？

2026-06-06

热门标签

内容创作大模型技术个人提效 langchain llamaindex 多模态技术 RAG技术智能客服知识图谱模型微调 RAGFlow coze Dify Fastgpt Bisheng Qanything AI+汽车 AI+金融 AI+工业 AI+培训 AI+SaaS Skill 提示词技巧 AI+电商 AI面试数字员工 ChatBI AI知识库开源大模型智能营销智能硬件 FDE AI+医疗 MaxKB Palantir Glean Openclaw

应聘简历请发送至： ceo@53ai.com

联系我们

售前咨询

预约演示

微信扫码

添加专属顾问

回到顶部