我要投稿

DeepSeek本地部署，可视化、无延迟、畅快使用

发布日期：2025-02-26 21:06:51 浏览次数： 2198

作者：观智能

微信搜一搜，关注“观智能”

你的DeepSeek又提示服务器繁忙了吗？

很多朋友已经发现DeepSeek的API服务能力远远没有跟上它的爆火程度，回答问题的响应速度明显比豆包、Kimi、智谱等国产大模型慢，时不时还会崩掉~~

无论是个人体验还是企业业务，都需要一个低延迟响应大模型服务。此外，如果有数据隐私、定制化(微调、RAG、多模态)等需求时，本地部署就更加必要了。其中RAG技术请参阅LangChain+RAG

第一步，选择模型

以下是DeepSeek-R1不同版本蒸馏模型本地部署所需的硬件资源，我们稍后将根据自己的硬件资源下载对应的模型：

第二步，下载并运行模型

2.1 下载Ollama(网址:https://ollama.com/download)

Ollama用于本地运行AI模型，使用方式十分简单。

以Windows系统为例，安装OllamaSetup.exe后，双击软件图标即可运行Ollama服务。

2.2 使用Ollama下载运行模型，这里选用最小的1.5b模型(15亿参数)

ollama run deepseek-r1:1.5b

这是运行模型的命令，因为本地还没有模型，所以Ollama会先从仓库中下载模型再运行，相当于：

ollama pull deepseek-r1:1.5b ollama run deepseek-r1:1.5b

此时模型服务已经起来了，默认的本地服务地址是http://localhost:11434，有了这个本地的API服务地址，我们可以将其配置到其它软件中，打造本地DeepSeek智能助手，比如代码助手，参阅DeepSeek代码助手

也可以直接在命令行使用：

第三步，配置对话界面

如果要像市面上常见的大模型那样有一个聊天界面，可以使用Chatbox

3.1 安装Chatbox(网址:https://chatboxai.app/zh)

安装运行后你将看到如下界面：

此时还没有配置模型服务，点击红框提示中的“点击这里打开设置”，然后配置我们的Ollama服务：

接下来就可以愉快使用本地模型了：

--------THE END-------

53AI，企业落地大模型首选服务商

产品：场景落地咨询+大模型应用平台+行业解决方案

承诺：免费POC验证，效果达标后再合作。零风险落地应用大模型，已交付160+中大型企业

相关资讯

2026-03-23

养死四只龙虾的小白有感

2026-03-22

Mistral Forge 的真正意义：企业AI从“租用”走向“拥有”

2026-03-21

马斯克再次站台Kimi，扒掉了Cursor 500亿估值的底裤

2026-03-19

MiniMax M2.7 炸场！自己训自己，8 项基准硬刚 GPT-5 和 Opus 4.6

2026-03-17

【淘宝直播数字人互动LLM】告别AI感：基于真人ASR数据的拟人化探索

2026-03-03

罕见！Meta、OpenAI、xAI联合分享了用生产环境提升LLM的最佳实践！

2026-02-13

工具调用准确率从60%飙到95%？我用这个‘解耦微调’把Qwen-7B救活了

2026-02-05

普林斯顿大学RLAnything：AI学会一边学习一边给自己打分

联系获取

联系获取

160+中大型企业正在使用53AI

立即咨询预约演示

把握AI发展的机遇，共同探索、共同进步

2025-01-22

如何打造基于GenAI的员工服务机器人

2025-01-22

热点资讯

2026年 LLM 微调全指南

2026-01-04

【GitHub高星】AI Research Skills：一键赋予AI“博士级”科研能力，74项硬核技能库开源！

2026-01-18

DeepSeek 发布新论文，提出全新 MHC 架构，有何创新与应用前景？

2026-01-02

刚刚，梁文锋署名，DeepSeek元旦新论文要开启架构新篇章

2026-01-01

MiniMax M2.7 炸场！自己训自己，8 项基准硬刚 GPT-5 和 Opus 4.6

2026-03-19

Agent 越用越聪明？AgentScope Java 在线训练插件来了！

2026-02-04

1GB 显存即可部署：腾讯 HY-MT1.5 的模型蒸馏与量化策略解析

2026-01-19

本地跑小模型带来5倍性能且成本极低！斯坦福从信息论视角重构智能体设计

2026-01-03

智元发布SOP：让机器人在真实世界规模化部署与智能化运行

2026-01-07

前Mata GenAI研究员田渊栋的年终总结：关于未来AI的思考

2026-01-10

大家都在问

DeepSeek 发布新论文，提出全新 MHC 架构，有何创新与应用前景？

2026-01-02

LoAR做Fine-Tuning微调原理到底是什么？

2025-11-19

如何将 AI 代码采纳率从30%提升到80%？

2025-09-25

大模型微调，为什么99%的企业都不应该碰这个坑？

2025-06-20

万不得已，不要对 LLM 进行微调？

2025-06-17

可以将任何符合OpenAPI规范的接口转 MCP Server吗？

2025-05-21

OpenAI发布GPT-4.1系列模型，对行业最大吸引力是什么？

2025-05-17

私有部署大模型需要多少显存？

2025-05-14

热门标签

内容创作大模型技术个人提效 langchain llamaindex 多模态技术 RAG技术智能客服知识图谱模型微调 RAGFlow coze Dify Fastgpt Bisheng Qanything AI+汽车 AI+金融 AI+工业 AI+培训 AI+SaaS Skill 提示词技巧 AI+电商 AI面试数字员工 ChatBI AI知识库开源大模型智能营销智能硬件智能化改造 AI+医疗 MaxKB Palantir Glean Openclaw

应聘简历请发送至： ceo@53ai.com

联系我们

售前咨询

预约演示

微信扫码

添加专属顾问

回到顶部