首先这不是什么教程，只是一个自己的一个简单笔记，截图比较多，有的地方可能漏掉了细节，后面可以提问留言，关于模型下载，我准备了几个我下载好的模型，如果你网络有问题，连接不上，可以下载这个用于演示。希望以下文字能帮助到你，记得关注，点赞，转发，点在看。
1.安装OLLama
到ollama的主页 https://ollama.com 点击 『Download』到下载页面，
点击『**Download for Windows(Preview)**』进行下载，大约170M左右。
下载好，直接下一步安装完成。安装好后，大概是：
安装完成后，ollama在后台运行，右下角有一个图标，没有其他东西，也没有安装任何模型，只有安装了某一个模型可以使用，常见的模型有ollama，ollama2，谷歌的gemma，通义千问qwen。默认情况下，ollama已加入系统路径，在命令行就可以调用ollama，可以在命令行运行服务，下载模型，查看版本，查看模型等。
ollama --version #查看ollama版本
ollama server #开启服务
ollama list #列出当前的模型
ollama run gemma:7b #运行gemma 7b模型，如果没有本地模型，直接拉模型到本地
模型支持情况：
2.安装gemma模型
Gemma 是一组轻量级生成式人工智能 (AI) 开放模型。Gemma 模型可以在应用以及硬件、移动设备或托管服务上运行。您还可以使用调优技术自定义这些模型，使其善于执行您和您用户的重要任务。Gemma 模型基于 Gemini 模型，旨在供 AI 开发社区进行扩展和改进。您可以使用 Gemma 模型生成文本。您还可以对它们调优，以提高其在特定任务中的性能。经过调优的 Gemma 模型可帮助您提高生成式 AI 解决方案的针对性和效率。
在ollama官网，点右侧的『Models』
选择『gemma』
选择『Tags』
这里是OLLama支持gemma的模型，选择7b ，复制旁边的ollama run gemma:7b。
到OLLama的安装目录。运行上面复制代码，进行模型的下载的安装，这个模型大概5g多，看自己的网速。命令行输入ollama run gemma:7b。
这就完成了OLLama的gemma模型7b的安装。
3.gemma模型测试
跑个测试看一下效果，在这个界面提一个问题，看看他生成的结果。
ollama run gemma:7b
如何学习好英语，看电影美剧有帮助吗？
学习英语，看电影美剧可以帮助提高英语水平，但不是唯一方法。以下方法可以帮助你学习英语：
1. 听英语广播和 podcast：
- 听英语广播和 podcast可以帮助你提高听说能力，并帮助你学习新的词汇和语法。
2. 看英语电影和电视节目：
- 看英语电影和电视节目可以帮助你提高你的词汇和语法能力，以及你的听力和语速能力。
- 在看电影和电视节目时，可以先看字幕，然后慢慢去掉字幕。
3. 阅读英语书籍和文章：
- 阅读英语书籍和文章可以帮助你提高你的词汇和语法能力，以及你的阅读速度和理解能力。
4. 和英语母语人交谈：
- 和英语母语人交谈可以帮助你提高你的口语能力，以及你的语法和词汇能力。
其他方法：
- 在你的日常活动中使用英语，例如与朋友交谈、阅读新闻和博客、在网上购物等
看电影美剧是否有效？
看电影美剧可以帮助提高英语水平，但不是唯一方法。电影中使用的语言可能与实际生活中的语言略有不同，但可以帮助你学习新的词汇和
语法，以及提高你的听力和语速能力。
注意事项：
- 不应该依赖电影和电视节目来学习英语，应该结合其他方法。
- 在看电影和电视节目时，应该集中注意力，并记录新的词汇和语法。
- 不应该依赖字幕，应该尝试听英文 without subtitles。
结果看着还可以吧，还支持中文，这个非常不错。有时也非常不靠谱。
7b模型至少要N卡8g显存，我的是8g显卡，提问时，基本跑满8g。如果显卡不行，选个体积小点的模型。另外也有人说需要的是内存，不是显存，我也没太搞明白，大家自己再研究研究。
4.安装pinokio
安装这个pinokio，主要是为了有web界面，正常的途径是在docker环境下安装，docker也有学习成本，可能还涉及到一些命令。通过pinokio来安装Open WebUI，来实现ollama的web界面管理。到官网下载 pinokio，点『Download』，选windos版。
下载解压缩。
可以访问网络。
默认安装位置。
点visit discover page
在下面找到Open WebUI，这个就是ollama的web端。点进去。
点下载。
开始安装前要先安装python环境，git等。
分别安装以上这几项，最后安装Open WebUI。点击进入这个项目。
点下面的install，到github下载Open WebUI的项目，进行安装。
点start开启，服务运行起来后，访问本地的127.0.0.1:8000
注册一个帐号，这是一个本地的帐号，不是远端的。随便写。
进入之后，模型这选gemma 7b，
现在就可以像ChatGPT一样提问聊天了。
web端还可以上传pdf文件，进行分析，这里没有做演示。自己可去探索。
llava多模太模型
这个是安装多模态模型，没研究明白，这个直接跳过，我不想删除这段记录。
下载模型 ollama run llava:7b
5.模型目录转到其他目录
默认情况下，模型是安装到本地，用户名下一个.ollama下，一般模型都是几个g到十几个g，非常占用空间，可以设置参数，改变存储位置。设置环境变量，重新开启服务，把原来的模型转移过来。
重新运行，新下载的模型就存到h盘了，经过上面的设置，之前安装的模型是找不到的，需要重新下载，或者整体平稳过去。
6.注意事项
- 运行图形界面的web版时，后端的ollama服务一定要开，否则不能正常运行。
- 下载模型时，可能和本地网络有很大关系，如果网络不好，可能不能正常下载模型，我可以把gemma 7b的模型打包，分享网盘，自己到本地解压缩。
- 安装Open WebUI需要访问github，也可能存在网络问题。
- 一定要有N卡，显存至少4g以上，否则就不要试了。这个需要进一步验证。
粤ICP备14082021号
免费POC，
零成本试错
