上一篇我们聊了 RAG 系统的“食材问题”。我们达成了共识:Garbage In, Garbage Out。
很多朋友回去实践了,把知识库清洗得干干净净,去掉了乱码,加上了元数据。但这两天有人在后台跟我反馈:
“食材是洗干净了,但这个 AI 厨子(模型)怎么还是发挥不稳定?
有时候它忽略我的核心指令,自顾自地总结;
有时候它逻辑跳跃,明明资料里没说,它非要脑补一个结论;
最气人的是,它经常自信满满地胡说八道,简直是个‘懂王’。”
我太理解这种感受了。
在很长一段时间里,我也陷入了“玄学调优”的怪圈:不停地改提示词,今天加一句“请注意”,明天加一句“严禁胡编”,效果时好时坏。
直到我跳出“聊天”的视角,重新审视了大模型的运行机制,我才发现:
不是 AI 笨,是我们给它的“菜谱”写得太烂了。
今天这篇,我们聊聊如何通过结构化提示词和思维链(CoT)给 AI 装上严谨的脑回路,以及——更重要的——作为产品经理,如何让这套复杂的逻辑对用户“隐形”。
01 别写作文,要“写代码”
大多数人写 Prompt 的习惯,是写“小作文”。
“你是一个客服,参考这些资料回答问题,资料里有A你就说A,用户问的是B你要注意语气,不要太生硬……”
这一大段文字丢过去,AI 的注意力机制(Attention)很容易“迷路”。它分不清哪句是背景,哪句是铁律,哪句是客套话。
在 AI 眼里,这是一团糊状的信息流。
高手写 Prompt,不像写文章,更像写代码。我们最常用的手段,就是用 XML 标签把 Prompt 像抽屉一样物理隔开。
这就叫结构化提示词。看看下面这个对比:
❌ 普通 Prompt:
请根据以下关于合同法的资料回答用户问题,如果资料里没有就说不知道,用户问的是定金能不能退。
✅ 结构化 Prompt:
<role>
你是一名资深法律顾问,逻辑严密,不讲废话。
</role>
<knowledge_base>
<!-- 这里放入清洗好的 RAG 资料 -->
[条款1] 定金罚则...
[条款2] 违约责任...
</knowledge_base>
<instruction>
1. 必须完全依据 <knowledge_base> 回答。
2. 引用条款时,请标注来源。
3. 如果资料未提及,直接输出“信息不足”。
</instruction>
<user_query>
定金能退吗?
</user_query>
为什么要这么做?
这其实是在利用工程学手段,降低模型的熵。
<knowledge_base> 告诉 AI:这是只读的事实。<instruction> 告诉 AI:这是必须执行的程序逻辑。当信息被物理隔离,AI 的“幻觉率”会直线下降,因为它清楚地知道界限在哪里。
02 强迫 AI 开启“慢思考”
解决了“看清指令”的问题,还要解决“乱说话”的问题。
大模型默认是快思考(System 1),它是基于概率预测下一个字的,所以它很容易脱口而出。而在复杂的业务场景下,我们需要它慢思考(System 2)。
这个技术叫 CoT(思维链,Chain of Thought)。
落地非常简单,就是在 Prompt 里加一句神奇的指令:
“在回答之前,请先在 <thinking> 标签中进行一步步的推导。”
加上这句话,你会看到 AI 开始在后台“碎碎念”:
(Thinking) 我查了资料,资料说给付方违约不退,收受方违约双倍返还。(Thinking) 资料里没提特殊情况,所以我需要分情况讨论。最后,它才会输出给用户的答案。
这一步“内心独白”,是 AI 自我纠错的关键。 它能让模型自己发现逻辑漏洞,从而给出一个圆融、严谨的结论。
03 产品的觉醒:最好的 Prompt 是“隐形”的
好了,技术原理讲完了。
这时候,如果我是个纯技术人员,我会说:“大家快去学 XML 和 CoT 吧,学会了 AI 就好用了!”
但作为一名产品经理,我必须泼一盆冷水:
这套方法论,对普通用户来说,就是灾难。
试想一下,你做了一个企业助手,你的用户是忙得脚不沾地的销售,是刚学会用智能手机的阿姨。
你指望他们去写 <instruction>?你指望他们去设计思维链?
他们只会拿起手机,发一条语音:
“那个谁,帮我查下上次那个合同。”
如果我们直接把这句话丢给 RAG,再完美的 XML 模板也救不了,因为输入本身是残缺的。
所以,产品经理真正的价值,不是教育用户去适应 AI,而是在用户和 AI 之间,修建一座“隐形的翻译站”。
04 中间层设计:把“人话”变成“机器话”
在我的产品设计中,Prompt 绝不是由用户直接生成的。它是被精心设计的中间层动态组装出来的。
当用户说“查下上次那个合同”时,后台发生了一系列用户看不见的操作:
第一步:意图识别(听懂弦外之音)
系统先用一个小模型判断:用户想干嘛?
第二步:查询改写(补全信息)
系统结合用户的身份(销售张三)、时间(最近一周)、上下文(上一句在聊字节跳动),把那句模糊的口语自动改写为:
“查询销售张三在过去一周内跟进的、关于字节跳动的合同记录。”第三步:隐形结构化(注入模板)
系统把你辛苦设计的 XML 模板调出来,把改写好的问题填进去,把检索到的数据填进去,再把 CoT 指令加上。
最后,系统把这个长达 2000 字的、精密得像代码一样的 Prompt 发送给大模型。
结果是什么?
用户只打了一行字,却收到了一个逻辑严密、数据详实、带有引用来源的完美回答。
用户会感叹:“哇,这个 AI 真懂我!”
其实,不是 AI 懂他,是你(产品经理)懂他。
写在最后
做大模型应用,我们经常在“技术视角”和“用户视角”之间撕裂。
而产品经理的使命,就是用技术的手段,去成全用户的懒惰。
最好的 Prompt,是用户看不见的。
它藏在产品的业务逻辑里,藏在改写算法里,藏在后台那些精密的 XML 结构里。
把复杂留给自己,把简单留给用户。这才是 AI 产品经理该有的“脑回路”。