我要投稿

AI大模型DeepSpeed Chat SFT 实践实践

发布日期：2024-06-26 09:38:59 浏览次数： 2967

作者：FeelTouch Labs

微信搜一搜，关注“FeelTouch Labs”

一、前言

ChatGPT 整体的训练过程复杂，虽然基于DeepSpeed 可以通过单机多卡、多机多卡、流水线并行等操作来训练和微调大语言模型，但是没有端到端的基于人类反馈机制的强化学习的规模化系统，仍然会造成训练类ChatGPT 系统非常困难。

二、DeepSpeed-Chat SFT 实践

DeepSpeed-Chat是微软于2023 年4月发布的基于DeepSpeed 用于训练类ChatGPT 模型的开发工具。 基于DeepSpeed-Chat 训练类ChatGPT 对话模型的步骤框架如图所示，包含以下三个步骤。（1）有监督微调（SFT）（2）奖励模型微调（3）RLHF 训练

DeepSpeed-Chat 具有以下三大核心功能。

（1）易用的类ChatGPT 模型的训练和强化推理：只需要一个脚本就可以实现多个训练步骤
（2）DeepSpeed-RLHF 管道：DeepSpeed-RLHF 复现了InstructGPT论文中的训练模式；
（3）DeepSpeed-RLHF 系统：将DeepSpeed 的训练能力（Training Engine）和推理能力。

三、Chat代码分析

DeepSpeed-Chat 代码仓库位于微软官方GitHub 仓库DeepSpeedExamples/applications/DeepSpeed-Chat 路径下。在进行实际应用前，需要先对官方代码有一个全局的了解。DeepSpeed-Chat 代码的结构如下所示：

当需要完整微调一个模型时（包含所有步骤），可以直接运行train.py 程序。训练中主要调整如下参数。 --step 训练步骤参数，表示运行哪个步骤，可选参数为1、2、3。本节介绍的内容只使用步骤一，有监督微调。 --deployment-type 表示分布式训练模型的参数，分别为单卡single_gpu、单机多卡single_node 和多机多卡multi_node。 --actor-model 表示要训练的模型，默认参数为训练OPT 的"1.3b"、"6.7b"、"13b"、"66b" 等各个参数量的模型。 --reward-model 表示要训练的奖励模型，默认参数为OPT 的"350m" 参数量的模型。 --actor-zero-stage 表示有监督微调的DeepSpeed 分布式训练配置。 --reward-zero-stage 表示训练奖励的DeepSpeed 分布式训练配置。 --output-dir 表示训练过程和结果的输出路径。

53AI，企业落地大模型首选服务商

产品：场景落地咨询+大模型应用平台+行业解决方案

承诺：免费POC验证，效果达标后再合作。零风险落地应用大模型，已交付160+中大型企业

相关资讯

2026-03-20

Claude Code 上线新功能要革OpenClaw的命!

2026-03-20

Cursor自研模型反超Opus 4.6！价格脚踝斩，氛围编程沸腾了

2026-03-20

突发！Claude Code 要彻底龙虾化

2026-03-20

1 个文件让 Claude Code 记住你：MEMORY.md 全解析

2026-03-20

为了狠狠嫖Google Antigravity 24 小时，我竟然做这个....

2026-03-19

GPT-5.4 mini 与 GPT-5.4 nano 登陆 Microsoft Foundry (国际版)

2026-03-19

AI的边界，就是人类的领地

2026-03-19

百度这件事我跟别人解释了好多次

联系获取

联系获取

160+中大型企业正在使用53AI

立即咨询预约演示

把握AI发展的机遇，共同探索、共同进步

2025-01-22

如何打造基于GenAI的员工服务机器人

2025-01-22

热点资讯

Pencil：设计和写代码，以后就全让AI干了

2026-01-24

独家实录｜唐杰、杨植麟、林俊旸、姚顺雨...All Star 对话上，大家聊了啥？

2026-01-10

2026 开年 AI 工具推荐，让你新的一年效率起飞！（建议收藏）

2026-01-01

从0到1玩转Clawdbot：我花了40小时，把这些坑都踩完了

2026-01-26

Claude赢麻了？OpenAI Codex正式支持Skills，GitHub连夜上车！

2025-12-21

终于！Gemini CLI支持Agent Skills，一键搬运Claude Code的“绝招”

2026-01-09

Claude Code Skills 国内实践全指南：从安装部署到高阶开发

2026-01-09

谷歌没想到：Antigravity 竟成了 Claude Code 的“免费充电宝”？

2025-12-30

深度解析——为什么Claude code CEO Dario 如此反中？

2026-01-23

不会封号的Claude Code使用方法！已稳定测试一个月，还能共享给团队。

2026-01-14

大家都在问

深度分析：Agent Harness/框架到底有没有竞争壁垒？

2026-03-19

咨询 | OpenAI、Anthropic纷纷和咨询公司合作的背后，折射除了行业落地AI什么样的趋势？

2026-03-19

大伙都在养虾，MiniMax 带着新模型来偷偷上分了？

2026-03-19

Harness Engineering 为什么是 Agent 时代的“控制论”？

2026-03-18

阿里云新品发布：Agent ID Guard，谁来管理“小龙虾们”的身份安全？

2026-03-17

香港终于能直接用 Gemini 了，内地用户能用上吗？

2026-03-17

粮厂研究员Will | 小米miclaw发布：谈谈为什么豆包手机没有撑过72小时？

2026-03-09

如果微信全面 AI 化了，会有什么后果？

2026-03-08

热门标签

内容创作大模型技术个人提效 langchain llamaindex 多模态技术 RAG技术智能客服知识图谱模型微调 RAGFlow coze Dify Fastgpt Bisheng Qanything AI+汽车 AI+金融 AI+工业 AI+培训 AI+SaaS Skill 提示词技巧 AI+电商 AI面试数字员工 ChatBI AI知识库开源大模型智能营销智能硬件智能化改造 AI+医疗 MaxKB Palantir Glean Openclaw

应聘简历请发送至： ceo@53ai.com

联系我们

售前咨询

预约演示

微信扫码

添加专属顾问

回到顶部