微信扫码
添加专属顾问
深入解析DeepSeek技术,掌握智能体搭建新思路。 核心内容: 1. DeepSeek现象级产品背后的四大关键词 2. 混合专家架构和优化注意力计算的技术亮点 3. 组相对策略优化算法在模型训练中的应用
春节这段时间,DeepSeek算是彻底爆了,出圈了,到全皆知的程度,连AI是什么东西都不知道的亲戚们,都开始在年夜饭以及餐桌上聊到了DeepSeek和他的创始⼈梁⽂峰。
太魔幻了,没想到DeepSeek有⼀天能成为⼈们茶余饭后的聊天对象,我是万万没有想到的,DeepSeek的影响⼒有多⼤。
为什么 DeepSeek 能成为现象级产品?四个关键词:国产・免费・开源・强大!
混合专家架构(MoE) :DeepSeek-R1 采用创新的混合专家架构,模型能够根据输入内容动态调用不同的专家网络,在保持相似计算成本的情况下,大幅提升模型的参数规模和性能 。
让一个专家团队协作解题:遇到法律合同翻译,激活「法律术语专家」;需要写诗歌时,调用「文学修辞专家」;分析财报时,启动「金融数据分析专家」。DeepSeek就像智能调度中心,实时匹配最擅长当前任务的"大脑"。
优化注意力计算 :对传统 Transformer 架构中的注意力计算方法进行优化,提高计算效率,并增强模型对长文本的处理能力 。
组相对策略优化(GRPO)算法 :
例如解方程「3x+5=20」,模型会生成10种解法(如代数法、图像法)。系统像老师批卷:选正确率最高的3种作为参考答案,淘汰错误方法。通过不断对比择优,模型解题准确率快速提升。
优势 :使模型参数量减少 40%-60%,无需单独的价值模型,显著降低内存和计算开销,增强模型的数学推理能力 。
原理 :GRPO 通过组内奖励对比直接优化策略网络,将同一问题生成的 N 条候选答案划分为组,以组内平均奖励为基线,计算相对优势值,避免了传统 RL 中复杂价值模型(Critic)的构建需求 。
双重奖励系统 :包含准确性和格式两个奖励,准确性奖励针对数学问题等确定性任务,格式奖励引导模型使用标准化的思考过程格式,提高输出的结构化程度和可解释性 。
模板化 RLHF 训练 :开发简洁有效的训练模板,提供清晰的推理过程生成指南,强调结构化输出格式,便于观察和评估模型的学习进展 。
多教师协同蒸馏 :
动态权重分配 :根据任务类型自动调整教师模型(R1-70B、R1-32B)的贡献权重,如在数学推理中赋予 70B 模型 80% 权重,而在代码生成中采用 50%-50% 均衡分配 。
注意力迁移技术 :将教师模型的交叉注意力分布作为软标签,指导学生模型学习长程依赖关系,使 7B 模型在 Codeforces 竞赛中的解题能力提升 29.4% 。
量化感知训练 :在蒸馏过程中引入 4-bit 量化模拟,确保小模型在边缘设备部署时精度损失不超过 2%,例如 1.5B 模型在树莓派 5 上运行耗时仅 3.2 秒 / 问题,功耗不足 5W 。
DeepSeek-R1 和 Alpha 在训练方式上。DeepSeek-R1 通过强化学习和多阶段训练策略,能够在较少的数据量和计算资源下达到较高的性能,特别适合需要复杂推理的任务。而 Alpha 则通过监督学习和强化学习相结合的方式,给出围棋规则,利用大量的人工标注数据和人类反馈来提升模型的性能,继承了人类的上限
https://metaso.cn/
如果不是写着671B 全尺寸 满血版 的基本都是被阉割过的
大厂薅羊毛
https://www.volcengine.com/
https://cloud.siliconflow.cn/i/2cGUfGEi(比较慢)
https://ppinfra.com/user/register?invited_by=AMAJ1C(比较快)
https://q05hlvbg0wa.feishu.cn/wiki/YJNgwOmrQiEkOpkMuswcLvWjnKc?from=from_copylink
链接:https://pan.quark.cn/s/b6c45c9911de
提取码:aqpM
V1.0版本:2025-2-9
1、基于ollama、open-webui,整合deepseek模型,不用配置环境变量、不用下载模型,解压即用。
from runtime import Args
from typings.deepseek_R1_siliconflow.deepseek_R1_siliconflow import Input, Output
import http.client
import json
def handler(args: Args[Input]) -> Output:
# 从输入参数中获取用户输入的内容和 API 密钥
user_input = args.input.user_input
api_key = args.input.api_key # 假设用户输入的 api_key 通过此字段传入
if not api_key:
return {"message": "API Key is missing. Please provide a valid API Key."}
# API 请求的 URL 和路径
conn = http.client.HTTPSConnection("api.siliconflow.cn")
payload = json.dumps({
"model": "deepseek-ai/DeepSeek-R1", # 使用 DeepSeek-R1 模型
"messages": [ {
"role": "user",
"content": user_input
}
],
"stream": False,
"max_tokens": 512,
"stop": ["null"],
"temperature": 0.7,
"top_p": 0.7,
"top_k": 50,
"frequency_penalty": 0.5,
"n": 1,
"response_format": {"type": "text"},
})
headers = {
"Authorization": f"Bearer {api_key}", # 使用用户提供的 API Key
"Content-Type": "application/json"
}
# 发送 POST 请求
conn.request("POST", "/v1/chat/completions", body=payload, headers=headers)
response = conn.getresponse()
# 检查请求是否成功
if response.status == 200:
# 解析响应数据
response_data = json.loads(response.read().decode("utf-8"))
# 提取 content 和 reasoning_content
content = response_data["choices"][0]["message"].get("content", "")
reasoning_content = response_data["choices"][0]["message"].get("reasoning_content", "")
# 返回 API 的响应内容,包括 reasoning_content
return {
"reasoning_content": reasoning_content,
"message": content
}
else:
# 如果请求失败,返回错误信息
return {"message": f"API request failed with status code {response.status}"}硅基流动容易timeout
504 / 503:通常是由于服务系统负载较高,请稍后重试。对于聊天和文本转语音请求,请尝试使用流模式 (“stream” :true )。请参阅流模式。
https://ppinfra.com/user/register?invited_by=AMAJ1C
from runtime import Args
from typings.DeepSeek_R1.DeepSeek_R1 import Input, Output
import http.client
import json
def handler(args: Args[Input]) -> Output:
# 从输入参数中获取用户输入的内容和 API 密钥
user_input = args.input.user_input
api_key = args.input.api_key
if not api_key:
return {"message": "API Key is missing. Please provide a valid API Key."}
# API 请求的 URL 和路径
conn = http.client.HTTPSConnection("api.ppinfra.com")
payload = json.dumps({
"model": "deepseek/deepseek-r1/community",
"messages": [
{
"role": "system",
"content": "你是DeepSeek,你会以诚实专业的态度帮助用户,用中文回答问题。"
},
{
"role": "user",
"content": user_input
}
],
"response_format": {"type": "text"},
"max_tokens": 8192,
"temperature": 1,
"top_p": 1,
"min_p": 0,
"top_k": 50,
"presence_penalty": 0,
"frequency_penalty": 0,
"repetition_penalty": 1
})
headers = {
"Authorization": f"Bearer {api_key}",
"Content-Type": "application/json"
}
# 发送 POST 请求
conn.request("POST", "/v3/openai/chat/completions", body=payload, headers=headers)
response = conn.getresponse()
# 检查请求是否成功
if response.status == 200:
# 解析响应数据
response_data = json.loads(response.read().decode("utf-8"))
# 获取完整的响应内容
full_content = response_data["choices"][0]["message"].get("content", "")
# 提取思维链内容和最终回答
reasoning_content = ""
message = full_content
# 如果内容中包含<think>标签
if "<think>" in full_content and "</think>" in full_content:
think_start = full_content.find("<think>") + len("<think>")
think_end = full_content.find("</think>")
# 提取思维链内容
reasoning_content = full_content[think_start:think_end].strip()
# 提取最终回答(移除思维链部分)
message = full_content[think_end + len("</think>"):].strip()
return {
"reasoning_content": reasoning_content,
"message": message
}
else:
# 如果请求失败,返回错误信息
return {"message": f"API request failed with status code {response.status}"}
设置好代码后设置元数据,别忘记保存
输入参数:user_input/api_key
输出参数:reasoning_content/message
{
"user_input": "9.11和9.9谁大",
"api_key": "这里填写你的api"
}调试成功
点击右上角发布
在插件里手动填入api_key
记得引用出参为结束节点的变量
测试成功
也可以做成两次回复
手搓联网ds 自己的专家级ai搜索
学习完今天的图文教程,在感谢您一键三连评论区回复"YYDS"截图添加文章底部舰长微信,领取"Deepseek深度教学指南",加入舰长扣子智能体交流社群,一起进行deepseek讨论。
关注公众号并添加舰长微信,领取智能体学习资料,并参与Coze技术直播讲解
舰长积极创建智能体;工作流交流群,让我们在AI时代一起进步互相学习!每天会在群里分享智能体的搭建,欢迎各位小伙伴加入~
船长团队创作智能体专栏小册,里面有最新进阶的Coze智能体文章,在文章有收获的同时,可以分销而获取60%的小册费用,聚财成多
53AI,企业落地大模型首选服务商
产品:场景落地咨询+大模型应用平台+行业解决方案
承诺:免费POC验证,效果达标后再合作。零风险落地应用大模型,已交付160+中大型企业
2026-06-28
BrowserBC:克隆人类点击,让一次网页操作转化为所有Agent的能力
2026-06-27
腾讯混元发布 PhoneBuddy:4B 开源手机 Agent,在 AndroidWorld 上超越 Gemini3.1 Pro
2026-06-27
本地部署 Gemma 4 26B QAT 实践记录
2026-06-26
Higress v2.2.3 发布:AI Gateway 能力增强,Gateway API 及其推理扩展持续打磨
2026-06-26
我把自己的知识库系统开源了
2026-06-26
近 8 千 Star!一次性干翻整本 PDF,百度这个 OCR 让文档解析彻底变了天
2026-06-25
谷歌开源 agents-cli:让 AI 助手帮你完成企业级 Agent 从搭建到部署全流程!
2026-06-25
官宣|我们推出了开源版Claude Tag,以及它背后记忆与工具引擎 MFS
2026-04-09
2026-04-03
2026-04-01
2026-04-18
2026-04-18
2026-06-22
2026-04-02
2026-05-10
2026-05-06
2026-05-20
2026-06-16
2026-05-30
2026-05-16
2026-04-22
2026-04-21
2026-04-15
2026-04-09
2026-04-01
欢迎您使用【53AI 官方网站】(以下简称“本网站”或“我们”)。本《会员服务协议》(以下简称“本协议”)是您(以下简称“会员”或“用户”)与【深圳市博思协创网络科技有限公司】之间关于注册、登录及使用本网站会员服务所订立的法律协议。
在您注册或登录前,请务必审慎阅读、充分理解各条款内容,特别是免除或限制责任的条款、知识产权条款、争议解决条款等。此类条款将以加粗形式提示您注意。 当您通过微信公众号授权、手机验证码验证或其他方式成功登录本网站时,即视为您已完全理解并同意接受本协议的全部内容。
一、 定义
本网站:指由【深圳市博思协创网络科技有限公司】运营的,域名为【53ai.com】的网站及相关移动端页面。
会员服务:指本网站向注册会员提供的知识库文章查阅、内容检索及其他相关增值服务。
知识库内容:指本网站发布的包括但不限于文字、图表、数据、研究报告、行业分析等数字化内容资源。
二、 账号注册与登录
登录方式:本网站支持以下登录方式,您可根据实际情况选择:
微信公众号授权登录:您同意将您的微信OpenID信息授权给本网站,用于创建或关联会员账号。
手机验证码登录:您需提供真实有效的手机号码,并通过短信验证码完成身份验证与登录/注册。
账号安全:您的账号仅限您本人使用,禁止赠与、借用、租用、转让或售卖。因您保管不善导致的账号被盗、密码泄露等损失,由您自行承担。
实名认证:根据相关法律法规要求,我们可能要求您在特定功能下完成实名认证。如您拒绝提供,可能无法使用部分或全部服务。
未成年人保护:若您未满18周岁,请在法定监护人的陪同下阅读本协议,并在征得监护人同意后使用本服务。
三、 服务内容与规范
知识库查阅权限:会员登录后,有权按照其会员等级对应的权限范围,在线浏览、检索本网站知识库中的相关文章及内容。
服务变更:我们有权根据业务发展需要,调整、变更或终止部分服务内容,并将以网站公告、公众号消息等方式提前通知。
禁止行为:您在使用服务时不得实施以下行为:
利用技术手段批量爬取、下载、转存知识库内容;
将知识库内容用于商业目的或未经授权地向第三方传播;
干扰本网站正常运行或侵犯其他用户合法权益;
发布违法违规信息或从事违反公序良俗的活动。
四、 知识产权声明
权利归属:本网站知识库中的排版设计、软件代码等内容的知识产权均归【公司全称】或原权利人所有,受《中华人民共和国著作权法》等法律保护。
有限许可:本网站授予会员一项非独占、不可转让、不可转授权的普通许可,仅限于个人学习、研究之目的在线查阅知识库内容。
侵权追责:未经书面许可,任何单位或个人不得以任何形式复制、转载、摘编、镜像、汇编或以其他方式使用上述内容。一经发现,我们保留追究其法律责任的权利。
五、 个人信息保护
我们重视对您个人信息的保护。关于我们如何收集、使用、存储和保护您的个人信息,请单独阅读 《隐私政策》。
您通过微信公众号授权或手机号验证所提供的信息,我们将严格按照《个人信息保护法》的规定处理,仅用于身份识别、服务提供及安全验证等必要用途。
您可以随时通过网站设置或联系客服行使查阅、更正、删除个人信息及撤回授权同意的权利。
六、 免责声明
内容准确性:知识库内容仅供参考,不构成专业建议。我们不对其完整性、准确性、时效性作任何明示或暗示的保证,您应自行判断并承担使用风险。
不可抗力:因自然灾害、政策法规变化、网络故障、第三方平台接口异常(如微信接口维护、运营商短信通道故障)等不可抗力导致的服务中断或延迟,我们不承担违约责任。
第三方链接:本网站可能包含指向第三方网站的链接,该等网站的内容和服务不受我们控制,请您自行甄别风险。
七、 违约责任
如您违反本协议约定,我们有权视情节采取警告、限制功能、暂停服务、注销账号等措施,并保留要求赔偿损失的权利。
如因您的违约行为导致我们遭受行政处罚、第三方索赔或商誉损失,您应承担全部赔偿责任(包括但不限于罚款、赔偿金、律师费、公证费等)。
八、 法律适用与争议解决
本协议的订立、执行和解释均适用中华人民共和国大陆地区法律。
因本协议产生的或与本协议有关的任何争议,双方应友好协商解决;协商不成的,任何一方均可向【公司所在地】有管辖权的人民法院提起诉讼。
九、 其他
本协议构成双方就本服务达成的完整协议,取代此前任何口头或书面约定。
本协议任一条款被认定为无效或不可执行的,不影响其他条款的效力。
我们对本协议享有最终解释权,并在法律允许的范围内保留随时修改的权利。修改后的协议一经公布即生效,继续使用服务即视为同意修订内容。