我要投稿
微信搜一搜，关注“NLP前沿”
文章的目标是通过pruning和distillation，将Llama 3.1 8B和Mistral NeMo 12B模型分别压缩到4B和8B参数。总的来说，获得了非常好的结果。
先压缩参数 -> 剪枝。 先计算每层、神经元、头和嵌入维度的重要性，开始剪枝过程。然后，对这些重要性分数进行排序，以计算相应的重要性排名。
判断是否重要，考虑三个不同的指标来评估层重要性：(1) LM dev loss，(2) Block Importance (BI) 和 (3) 下游任务的准确性。
一般开源模型不知道什么数据训练的，所以文中提出了在剪枝和蒸馏之前对教师模型进行微调的步骤，称为teacher correction，用了127B tokens。
至于蒸馏，仅在teacher和student logits 上使用前向 KL 散度损失
是否加teacher correction步骤，差异如下：
Width vs Depth Pruning， 两种变体具有相同数量的参数，但宽度剪枝可以得到较小的初始损失，并始终优于深度剪枝模型。
与随机初始化更小的网络相比，pruning起点明显更低，另外基于蒸馏的训练优于传统训练方法，同时需要更少的训练tokens（下图红线和绿线）
teacher correction不回影响到剪枝的重要性排序，结合蒸馏，可以弥补剪枝从原始权重带来的差距
开头和结尾的layer是最重要的。删除不连续的layer可以获得更好的 LM 验证损失（下图虚线）。但是这个结论在下游任务准确率上不一定稳定成立。
最后文中的总结结论，上面大体上提到了：
53AI，企业落地大模型首选服务商
产品：场景落地咨询+大模型应用平台+行业解决方案
承诺：免费POC验证，效果达标后再合作。零风险落地应用大模型，已交付160+中大型企业
2025-07-29
AI+合同审查落地分享（下-1- 合同智能审查）
2025-07-29
AI 应用开发，还需要意图识别吗？
2025-07-29
一键切换不同的 Claude Code API
2025-07-29
一文搞懂大模型、RAG、函数调用、Agent、知识库、向量数据库、知识图谱、AGI的概念和联系
2025-07-29
腾讯的IDE codeBuddy体验来了，说点自己的感受。
2025-07-29
突发：GPT-5下周发布
2025-07-29
WAIC 2025 观察：大模型进入“效率与场景”决胜期
2025-07-29
爆火了大半年，Agent 到底能干好多少活 | WAIC 特别策划
2025-05-29
2025-05-23
2025-06-01
2025-05-07
2025-05-07
2025-05-07
2025-06-07
2025-06-21
2025-06-12
2025-05-20
2025-07-29
2025-07-29
2025-07-28
2025-07-27
2025-07-27
2025-07-25
2025-07-24
2025-07-24
回到顶部
粤ICP备14082021号