我要投稿
贪心搜索、波束搜索、Top-K采样、Top-p采样和温度都是影响LLM如何生成token的推理时参数，它们只是从离散概率分布中采样的方法，根据LLM输出的概率分布进行操作。
在Gradio中也是有这些常用的参数，而且合理的调参才有合适的输出。
Greedy search（贪婪搜索）是指在每个t时刻选择下一个词时，根据选择概率最高的词。
缺点：
Beam search（集束搜索）对贪心搜索进行了改进，扩大了搜索空间，更容易得到全局最优解。Beam Search 包含一个参数 beam size k，表示每一时刻均保留得分最高的 k 个序列，然后下一时刻用这 k 个序列继续生成。
从这里来看，该算法算是基于贪婪搜索的缺点来设计实现的。
缺点：
维特比算法能做到全局最优。
Top-K采样限制在一定数量要考虑的tokens。
在 Top-K 采样中，概率最大的 K 个词会被选出，然后这 K 个词的概率会被重新归一化，最后就在这重新被归一化概率后的 K 个词中采样。
Top-p采样限制在一定概率质量内的tokens。
其作用如下：
53AI，企业落地大模型首选服务商
产品：场景落地咨询+大模型应用平台+行业解决方案
承诺：免费场景POC验证，效果验证后签署服务协议。零风险落地应用大模型，已交付160+中大型企业
2025-06-14
挑战 Transformer 架构的谷歌最新扩散模型 Gemini Diffusion 系统提示词
2025-06-14
“AI原生”时代：企业数智化转型的分水岭
2025-06-14
多模态RAG的三类图文问答实现方式，你知道多少种？
2025-06-14
新一代文本表征Qwen3-Embedding与排序模型Qwen3-Reranker 部署和替换
2025-06-14
“华强北”围攻AI耳机，未来智能如何突围？
2025-06-14
AI时代如何为企业和个人赋能
2025-06-14
没吃透 Function Calling？难怪你不理解 AI Agent 为何非来不可！
2025-06-14
浅尝一下微软的AutoGen框架
2025-05-29
2025-03-20
2025-03-21
2025-04-11
2025-03-20
2025-03-19
2025-03-20
2025-03-19
2025-03-19
2025-03-19
2025-06-14
2025-06-14
2025-06-14
2025-06-14
2025-06-13
2025-06-13
2025-06-13
2025-06-13
回到顶部
粤ICP备17114055号