我要投稿

使用LM Studio一键部署本地AI大语言模型

发布日期：2024-04-28 08:56:19 浏览次数： 4731

作者：火星AIGC

微信搜一搜，关注“火星AIGC”

现在如此多的开源AI模型，像Gemma、Mistral 7B、Llama等，如果想部署到本地个人电脑上，一般需要懂点python等编程知识，而现在出现了一些软件和开源工具，已经可以一键部署AI模型到本地了，很多都是傻瓜化操作，不需要有相应的编程知识。下面介绍的这个LM Studio就是一个傻瓜化一键部署开源AI模型的桌面软件。

1.什么是LM Studio？

LM Studio 是一个桌面应用程序，支持Windows、苹果macOS和Linux操作系统，用于在电脑上运行本地大语言模型。它通过在本地主机上运行的类似 OpenAI 的 HTTP 服务器使用本地大语言模型，这样使你有更多的控制权和隐私保护。

LM Studio的主要功能：

搜索并下载各种AI大语言模型；

在具有GPU的本地计算机上运行AI模型；

与 AnythingLLM 集成以创建聊天机器人界面。

官方网站：lmstudio.ai

2.电脑最低配置要求是什么？

• 配备 macOS 13.6 或更高版本的苹果电脑(M1/M2/M3)

• 具有支持 AVX2 处理器的 Windows/Linux PC

• 支持 NVIDIA/AMD GPU显卡，建议16GB 以上的显存。

• 对于电脑，建议6GB+内存

一般Intel和AMD的比较新的CPU都支持AVX2指令集，如果不确定，可以用CPUZ软件查看一下自己电脑CPU支持的指令集。

3.在Windows上安装LM Studio

进入官网页面，点相应的操作系统，下载。

打开下载的安装文件，点击运行。

它会自动安装在C盘上。

3.运行LM Studio

直接打开LM Studio，可以直接在软件主页下载推荐的各种模型。

也可以在搜索页搜索Hugging Face上的模型。并在页面的右上角显示估计需要的内存和显存容量。

5. 与你的AI聊天

进入聊天页面，加载您下载的模型，并输入提示词，等它给出回答。

还可以一次加载多个模型，以对比不同AI模型的不同响应。

LM Studio可以让你轻松的部署自己的私有AI大语言模型，不用再考虑网络、费用问题，随时随地与AI交互，唯一不完美的就是全英文界面，没有汉化功能。官方后续版本还会增加文本嵌入（POST /v1/embeddings）支持，实现更多的自定义功能。

53AI，企业落地大模型首选服务商

产品：场景落地咨询+大模型应用平台+行业解决方案

承诺：免费场景POC验证，效果验证后签署服务协议。零风险落地应用大模型，已交付160+中大型企业

相关资讯

2025-06-11

学AI到底学什么？90%的人都走错了方向

2025-06-09

普通人用不好AI的真正原因？

2025-06-05

企业 AI 智能体落地三步突围：从效率工具到生态协同的实战攻略

2025-05-30

想被AI取代的妈妈们

2025-05-28

从重复劳动到价值创造，人类与AI的分工边界该如何重写？

2025-05-28

豆包这波更新太狠：竟把浏览器玩出花！效率革命来

2025-05-27

你和高手之间，只差一个AI复盘搭档

2025-05-27

如何更好地使用AI来提升个人能力和效率

了解更多

了解更多

160+中大型企业正在使用53AI

立即咨询预约演示

把握AI发展的机遇，共同探索、共同进步

2025-01-22

如何打造基于GenAI的员工服务机器人

2025-01-22

热点资讯

重磅福利：Cursor 向学生免费开放一年！

2025-05-07

AI来了，高绩效员工反而不开心？

2025-04-20

豆包这波更新太狠：竟把浏览器玩出花！效率革命来

2025-05-28

如何使用Playwright MCP提升你的自动化测试效率

2025-04-11

MCP 实战第一课：让 DeepSeek 接管你的电脑

2025-04-14

Flowith AI Agent，能否取代 Manus？

2025-03-24

牛逼！DeepSeek一键转word/excel/PDF文档，90%的人都不知道的隐藏技能

2025-04-29

Cursor 生产力教程 v0.1: 小白快速上手指南

2025-04-29

Cursor 深度评测：革命性提效工具还是过誉的玩具？

2025-04-04

腾讯 ima 新版本 1.6 终于支持了文件夹创建

2025-04-15

大家都在问

普通人用不好AI的真正原因？

2025-06-09

从重复劳动到价值创造，人类与AI的分工边界该如何重写？

2025-05-28

什么？还有更厉害的AI智能助手？

2025-05-15

为什么现在做AI的产品经理，都是在亏钱？

2025-05-07

为什么你越关注AI，越容易落后于人？

2025-04-28

AI来了，高绩效员工反而不开心？

2025-04-20

Cursor 深度评测：革命性提效工具还是过誉的玩具？

2025-04-04

Flowith AI Agent，能否取代 Manus？

2025-03-24

热门标签

内容创作大模型技术个人提效 langchain llamaindex 多模态技术 RAG技术智能客服知识图谱模型微调 RAGFlow coze Dify Fastgpt Bisheng Qanything AI+汽车 AI+金融 AI+工业 AI+培训 AI+SaaS 提示词框架提示词技巧 AI+电商 AI面试数字员工 ChatBI 知识管理开源大模型智能营销智能硬件智能化改造 AI+医疗 MaxKB

应聘简历请发送至： ceo@53ai.com

友情链接：

CopyRight © 2012-2024 深圳市博思协创网络科技有限公司版权所有

粤ICP备17114055号

广州：广州市华景路37号(华景软件园)暨南大学科技大厦6楼（整层）

深圳：深圳市福田区泰然四路29号天安创新科技广场一期A座1204

上海：上海市浦东新区金新路58号1602室

微信扫码
和创始人交个朋友

联系我们

售前咨询

预约演示

微信扫码

添加专属顾问

回到顶部