我要投稿

大模型经常犯错才是大模型应用中最好玩，也是最有用的东西

发布日期：2025-08-23 11:37:39 浏览次数： 1519

作者：AI探索时代

微信搜一搜，关注“AI探索时代”

“ 大模型犯错是常态，而在大模型应用中，我们需要做的是处理好这些错误，把模型的错误影响降到最低。”

做了一段时间的大模型应用之后发现一个非常有趣的问题，那就是为什么会有那么多大模型应用的范式，包括思维链(CoT)，思考-行动(ReAct)，反思(Reflection)等。

其实最本质的原因就是大模型经常犯错，特别是在复杂场景下的复杂问题；就类似于我们人类处理复杂问题一样，很少有人能够在不犯错的前提下，一次性解决一个复杂问题，特别是在个人能力参差不齐的情况下。

经常犯错的大模型

我们知道大模型是一个基于概率进行预测结果的系统，因此它有一个非常致命的问题，那就是幻觉问题；但其在某些情况下，能够很好的取代人类，提升效率。

因此，作为一个让人又爱又恨的技术和工具，在利用好大模型优势的前提下，又能把风险降到最低，这是作为使用者的我们需要解决的问题。

从使用者的角度来说，提示词(prompt)是使用大模型的唯一工具，我们可以通过提示词来约束或引导大模型的输出，而这可以让大模型帮我们解决问题。但是因为幻觉等原因的存在，就导致大模型并不能完全稳定地输出正确的答案。

所以，我们就需要一种方式来规避或者来降低这种风险；而这就是大模型应用中不同范式存在的意义。

在解决复杂问题的过程中，我们人类常用的方式就是去分析问题，然后对问题进行拆解规划；对大模型来说同样如此，我们需要一种方法让大模型能够独立完成任务的拆解和行动，由此形成的方法论就是我们现在常说的ReAct，reflection等。

但是呢，这些方式虽然能够提升大模型的准确率，以及对复杂问题的解决能力，但并不能完全杜绝大模型犯错；因此，我们就需要在大模型犯错时进行处理，比如说ReAct的观察者模式observation，就是让大模型先对自己的处理结果进行分析；然后还有就是重试机制，让大模型在犯错的情况下，能够根据当前的问题进行优化，并再次尝试。

像强化学习，反馈学习等都是基于这个理念。

因此，我们在做大模型应用开发时，我们首先要明白一个理念——大模型犯错是必然的，而不是偶然的结果。

这也是为什么很多时候我们做应用时，明明刚开始是好好的，怎么突然之间系统就不能用了，然后过一会可能又好了，就这么时灵时不灵；原因就在于此，由于我们对大模型的错误结果没有处理好；就间接导致大模型出现错误而不自知，最后导致系统崩溃。

53AI，企业落地大模型首选服务商

产品：场景落地咨询+大模型应用平台+行业解决方案

承诺：免费POC验证，效果达标后再合作。零风险落地应用大模型，已交付160+中大型企业

相关资讯

2025-08-23

Embedding模型：AI如何“读懂”世界？

2025-08-22

从“问答工具”到“战略伙伴”：AI智能体如何改写商业规则？

2025-08-22

4个维度精准判断：你的业务到底需不需要AI？

2025-08-22

B 站大模型存储加速实践

2025-08-22

RAG 真是一个特别糟糕的概念

2025-08-22

深度智能体革命：为什么 LLM 应用正从浅层走向深度？

2025-08-22

万字长文预警？不，关于MCP，看这篇就够了

2025-08-22

浅谈大模型在安全运营中的落地

了解更多

了解更多

160+中大型企业正在使用53AI

立即咨询预约演示

把握AI发展的机遇，共同探索、共同进步

2025-01-22

如何打造基于GenAI的员工服务机器人

2025-01-22

热点资讯

DeepSeek-V3.1 发布，迈向 Agent 时代的第一步

2025-08-21

DeepSeek R1-0528 小版本升级

2025-05-29

SpringAI Alibaba实战文生图、聊天记忆功能

2025-06-01

精|知识探索新范式：深度研究Deep Research智能体全面综述，系统、方法与应用

2025-06-21

DeepSeek V3.1 测评

2025-08-19

AIGC合规落地全景图 | 如何做好AIGC数据合规

2025-06-07

别再被MCP协议绕晕！一文搞懂连接流程与核心架构

2025-06-12

这篇AI Agent漫游指南，带你建立全面的科技史观

2025-05-28

能办成事的 Agent：实时与环境交互，从经验中学习

2025-06-19

聊聊AI应用架构演进

2025-06-13

大家都在问

Embedding模型：AI如何“读懂”世界？

2025-08-23

从“问答工具”到“战略伙伴”：AI智能体如何改写商业规则？

2025-08-22

4个维度精准判断：你的业务到底需不需要AI？

2025-08-22

深度智能体革命：为什么 LLM 应用正从浅层走向深度？

2025-08-22

GenAI企业应用落地，成功率 5%？

2025-08-22

DeepSeekV3.1 提到的 UE8M0 FP8 Scale 是什么？下一代国产芯片设计？

2025-08-21

从Prompt到Context：为什么Think Tool是形式化的必然？

2025-08-20

字节跳动发布M3-Agent：当AI拥有了“记忆”，世界将如何被重塑？

2025-08-19

热门标签

内容创作大模型技术个人提效 langchain llamaindex 多模态技术 RAG技术智能客服知识图谱模型微调 RAGFlow coze Dify Fastgpt Bisheng Qanything AI+汽车 AI+金融 AI+工业 AI+培训 AI+SaaS 提示词框架提示词技巧 AI+电商 AI面试数字员工 ChatBI 知识管理开源大模型智能营销智能硬件智能化改造 AI+医疗 MaxKB

应聘简历请发送至： ceo@53ai.com

联系我们

售前咨询

预约演示

微信扫码

添加专属顾问

回到顶部