免费POC, 零成本试错
AI知识库

53AI知识库

学习大模型的前沿技术与行业应用场景


我要投稿

实践用Ollama本地部署DeepSeek-R1模型,总算搞清楚了联网搜索RAG是怎么回事

发布日期:2025-11-17 09:26:35 浏览次数: 1645
作者:技术漫步之路

微信搜一搜,关注“技术漫步之路”

推荐语

本地部署DeepSeek-R1模型并实现联网搜索,让大模型获取最新信息不再是难题。

核心内容:
1. Ollama本地部署DeepSeek-R1模型的详细步骤
2. 配置Page Assist实现联网搜索功能
3. 解决外部网络访问和跨域问题的实用技巧

杨芳贤
53AI创始人/腾讯云(TVP)最具价值专家

最近在研究大模型的落地应用,在本地使用2张GPU显卡部署了一套DeepSeek-r1模型,并搭配了Page Assist作为web ui。由于deepseek模型信息最新更新时间是到2023年12月,所有这个日期之后发生的事情,它是不知道的,而Page Assist有个联网搜索功能,可以很好的弥补这一点,之前一直不清楚他们是怎么配合的,今天重点研究了一下,也算是搞清楚了怎么回事。附上本地使用Ollama部署deepseek的步骤和设置。

1、本地安装Ollama

ollama基础命令:
1)模型管理
ollama pull

2、下载运行deepseek-r1:32b

我这里使用的是32b的模型,大约20个G,进行本地研究应该是足够了,同时保证内存和磁盘空间足够。


ollama默认模型放置路径为/usr/share/ollama/.ollama/models


安装完成开始运行,使用命令ollama ps可以看到deepseek-r1:32b完全运行在GPU上。GPU使用的是2张A10 NVIDIA卡。

提个问题试试。


回复测试没问题。回复/bye或者按Ctrl+D退出。


3、外部网络访问

一开始直接启动,默认访问地址是127.0.0.1:11434,只允许本地访问。如果要放开外部访问,需要进行Ollama设置。

sudo vim /etc/systemd/system/ollama.service
在[Service]下面加上:
Environment="OLLAMA_HOST=0.0.0.0:11434"   #运行所有地址访问
Environment="OLLAMA_ORIGINS=*"  #运行跨域访问
sudo systemctl daemon-reload
sudo systemctl restart ollama

4、使用Chrome浏览器插件访问

在本地浏览器上安装Page Assist作为web ui,访问插件地址https://chromewebstore.google.com/search/Page%20Assist?hl=zh-CN&utm_source=ext_sidebar

安装完成后打开

5、使用DeepSeek联网搜索

当在没开启联网搜索时,询问当前日期是多少,它是无法回答的,只有开启才可以。

我本地deepseek模型是运行在服务器上的,且切断了互联网,它不可能直接联网查询。
Page Assist作为浏览器扩展,它的联网功能是独立于DeepSeek模型运行的,当用户开启联网搜索时,Page Assist会通过预设置的浏览器直接访问互联网,用搜索引擎先进行实时查询,把获取的网络信息作为上下文,然后将这些信息与用户问题一起发送给本地的DeepSeek模型进行问题回答生成,最后再反馈给用户。大体流程如下图。

53AI,企业落地大模型首选服务商

产品:场景落地咨询+大模型应用平台+行业解决方案

承诺:免费POC验证,效果达标后再合作。零风险落地应用大模型,已交付160+中大型企业

联系我们

售前咨询
186 6662 7370
预约演示
185 8882 0121

微信扫码

添加专属顾问

回到顶部

加载中...

扫码咨询