免费GPU算力部署DeepSeek-R1 32B

前言

DeepSeek-R1发布最新版本DeepSeek-R1-0528，显著提升了模型的思维深度与推理能力，在数学、编程与通用逻辑等多个基准测评中取得了当前国内所有模型中首屈一指的优异成绩，并且在整体表现上已接近其他国际顶尖模型，如 o3 与 Gemini-2.5-Pro。另外，API接口还增加了Function Calling和JsonOutput 的支持。

飞桨AI Studio每日免费提供GPU算力资源，具体配置如下：

• • V100 16GB显存：可以跑14B尺寸模型，每日免费使用4小时
• • VT100 32GB显存：可以跑32B尺寸模型，每日免费使用2.7小时

创建项目

打开https://aistudio.baidu.com/account，点击右上方“登录”按钮，用百度账号登录即可。

打开https://aistudio.baidu.com/my/project，点击右上方“创建项目”，选择“Notebook”，会弹出下方的对话框。填写“项目名称”，点击创建。

安装ollama

设置目录

在Codelab IDE界面中，选择“文件”=》“新建”=》“终端”，进入shell界面，执行以下命令(每次启动环境都要执行)，以便ollama下载的模型能保存在~/work/.ollama，这样才能持久化保存。

cd ~/work && mkdir -p .ollama && ln -sfn ~/work/.ollama ~/

下载ollama

飞桨AI Studio无法访问github，需通过代理网站ghproxy.cn进行下载。命令如下

cd ~/work
wget -c https://ghproxy.cn/https://github.com/ollama/ollama/releases/download/v0.8.0/ollama-linux-amd64.tgz
tar zxf ollama-linux-amd64.tgz

下载deepseek模型

启动ollama服务

~/work/bin/ollama serve

新建终端，输入命令下载deepseek-r1 32b模型

~/work/bin/ollama pull deepseek-r1:32b

如果发现下载速度低于1MB/s，可尝试重新执行pull(但不要重启ollama serve的进程)。

启动deepseek

切换到GPU环境

启动ollama服务

cd ~/work && mkdir -p .ollama && ln -sfn ~/work/.ollama ~/  && ~/work/bin/ollama serve

启动deepseek

新建终端，输入以下命令启动deepseek

~/work/bin/ollama run deepseek-r1:32b

运行成功后就可以开始体验deepseek的魅力了。

测试

总结

本文介绍利用飞桨AI Studio每日免费提供GPU算力资源部署DeepSeek-R1 32B。进一步，还可以通过frp内网穿透让windows部署的dify连接飞桨服务器上部署的ollama。另外，我们也可以利用GPU算力学习其它知识：模型微调，模型训练，深度学习训练等。

#DeepSeek  #免费GPU算力  #飞桨