微信扫码
添加专属顾问
我要投稿
大模型推理也能"断舍离"?LC-R1方法砍掉一半废话,精度仅降2%!核心内容: 1. 大模型存在"无效思考"痛点:45%计算资源浪费在冗余验证 2. 双奖励训练机制:同时优化推理长度和关键步骤保留 3. 实测效果:推理长度缩短50%,精度损失不足2%
大模型推理为什么又长又啰嗦?
想象一下让学霸解题:明明第一步就得出答案,却非要反复验算十遍,还写满整张草稿纸——这就是当前大模型(如GPT-4、DeepSeek)的痛点!
论文:Optimizing Length Compression in Large Reasoning Models
链接:https://arxiv.org/pdf/2506.14755
论文发现:模型在简单题目上过度推理,生成大量无关步骤。比如解方程时,答案早出现了,后面全是"让我再检查一下..."的废话。
如图对比:普通模型像写小作文,LC-R1训练后像发微博
作者提出 "无效思考"(Invalid Thinking)概念:
定义:模型得出正确答案后继续的冗余验证步骤
量化指标 VT率:有效推理长度 ÷ 总推理长度
惊人数据:当前顶尖模型的平均VT率仅58-65%,意味着35-45%的计算资源在空转!
好比打车去3公里外吃饭,司机绕路开了6公里
传统方法粗暴砍长度可能误伤关键步骤。本文提出两大原则:
类比烹饪:
普通厨师:煮面10分钟,再煮5分钟"确保熟透" → 冗余 智能厨师:煮面10分钟,筷子一夹就关火 → Brevity+Sufficiency
核心方法:用强化学习给模型"植入条件反射"
关键操作:
当模型首次输出正确答案时,立刻给</think>
标记发"红包"(奖励),训练它养成答完即停的习惯!
公式示意:
压缩奖励 = 1 - (有效长度 / 原始长度)
提前终止时罚分 -1(避免偷工减料)
在7大测试集(数学/编程/逻辑题)中,LC-R1碾压其他压缩方法:
如图:LC-R1稳居帕累托前沿最优位置
案例对比:同一道数学题
"删掉的真是纯废话,留着的全是干货!"
LC-R1的价值不仅是技术突破,更揭示了模型推理的本质规律:
更多步骤≠更好结果,精准思考才是王道。
备注:昵称-学校/公司-方向/会议(eg.ACL),进入技术/投稿群
id:DLNLPer,记得备注呦
53AI,企业落地大模型首选服务商
产品:场景落地咨询+大模型应用平台+行业解决方案
承诺:免费场景POC验证,效果验证后签署服务协议。零风险落地应用大模型,已交付160+中大型企业
2025-06-25
腾讯、阿里和字节都在布局AI浏览器,它会是PC端超级入口吗?|AI浏览器(上)
2025-06-25
【万字长文】为何当下AI Agent具备变革性影响力 普通人该如何思考
2025-06-25
当企业部署上百个AI Agent | 硅谷AI Agent创始人圆桌实录
2025-06-25
给Javaer看的大模型开发指南|得物技术
2025-06-25
AI 原生应用(AI Native)- 产品设计逻辑变了!
2025-06-25
AI做心理咨询师|大模型咨询能力测评
2025-06-25
深度解析:知识工程如何让AI警用大模型不再"胡说八道
2025-06-25
关于AI大模型技术带来的企业数智化转型工作影响思考
2025-05-29
2025-04-11
2025-04-01
2025-04-12
2025-04-06
2025-04-12
2025-04-29
2025-04-29
2025-04-17
2025-05-07