我要投稿
微信搜一搜，关注“NLP前沿”
正常的MOE结构，用到了qk norm
全文61页，细节满满，感兴趣的同学可以自己看。这里简单提一些有意思的点~
1B-7BMOE vs 1B / 7B dense起点更高，终点接近或超过7B全量全参dense的效果
更细粒度的专家组合可以得到更好的训练损失，但是收益递减。（这里提到了很多相关的研究，去做预测最优组合）
共享专家会消除模型的灵活性，让性能更差，与一些历史研究不符
确定哪些专家处理每个输入token ，有2种类型
相同的预算下，TC稳定优于EC
专家是从头初始化，还是从MLP复制得到。实验发现只需要几百B的token，从头开始的模型就赶上了复制的结果，从600B token之后优于复制的结果。
使用负载平衡损失也能带来更好的性能
路由z-loss可以提高MoE模型的稳定性和质量。这个辅助损失会惩罚进入门控网络的大logits
预训练的早期阶段路由就达到了饱和状态
训练结束后，通一层的专家之间不存在强协同激活，也就是说不同专家之间几乎没有冗余
专家对于特定领域和词汇的专业化程度区分度还是比较高的。某些专家可能专门处理一些科学相关的，（如arXiv数据集），而其他专家可能更擅长处理编程语言或一般文本。
53AI，企业落地大模型首选服务商
产品：场景落地咨询+大模型应用平台+行业解决方案
承诺：免费POC验证，效果达标后再合作。零风险落地应用大模型，已交付160+中大型企业
2025-07-31
Coze开源文档资料清单
2025-07-31
手把手教你本地部署！京东JoyAgent全攻略：从零拥有一个企业级的AI Agent
2025-07-31
扣子罗盘（Coze Loop）开源版本地部署，构建一站式AI Agent调试、评估、监控平台
2025-07-31
Github 2.3k star 太牛x，京东（JoyAgent‑JDGenie）项目来得太及时啦，端到端多智能体神器！
2025-07-31
字节打响 Agent 平台战！Coze扣子、n8n、Dify谁是终点？
2025-07-31
Coze开源后，我用LLM+OCR做了一个文档智能问答Agent
2025-07-31
字节开源“扣子”，企业数字化转型的新机遇！
2025-07-31
一个不卷大模型的清华学霸，率先用AI赚到了钱
2025-07-23
2025-06-17
2025-06-17
2025-07-23
2025-07-14
2025-07-12
2025-05-29
2025-07-27
2025-05-12
2025-05-14
2025-07-31
2025-07-30
2025-07-30
2025-07-30
2025-07-29
2025-07-29
2025-07-28
2025-07-28
回到顶部
粤ICP备14082021号