我要投稿

什么是停用词表？构建RAG系统时为什么要注意异常停用词？

发布日期：2025-03-18 05:03:15 浏览次数： 2537

作者：7sh科技

微信搜一搜，关注“7sh科技”

停用词表在英文中叫：Stop Words List，它是一个包含常见、但通常对文本分析或自然语言处理任务不重要的词汇的列表。停用词表一般在信息检索、文本分类、情感分析等场景被使用。

因为某些词汇其高频出现在表达具体意义时作用有限，因此被称为“停用词”。在处理文本数据时，通常会将这些停用词从文本中移除，以减少数据的稀疏性，提高处理效率，并可能提升后续分析或模型的性能。

停用词出了一些常用的标点符号，通常包括但不限于以下几类：

介词：如 “的”、“在”、“和”、“以”等。

连词：如 “而且”、“但是”、“因为”等。

助词：如 “了”、“着”、“过”等。

语气词：如 “啊”、“呢”、“吧”等。

在某些上下文中，一些非常常见的实词，如“人们”、“时间”等，也可能被视为停用词，特别是当它们对特定分析任务没有贡献时。

使用停用词表时，需要注意以下几点：

不同领域的停用词可能有所不同，例如，在医学文本中，“患者”可能是一个重要词汇，而在一般文本中则可能被视为停用词。

不同语言的停用词表会有显著差异，因为每种语言都有其独特的词汇和语法结构。

停用词表不是静态的，可能需要根据具体任务和数据集进行动态调整。

目前在一些RAG系统中的文本预处理阶段，通过移除停用词，可以简化文本数据，使其更加专注于表达核心意义的词汇，从而有助于提升后续分析或模型的准确性和效率。

另外，中文常用的停用词已经有大佬整理好了，大家可以直接拿去参考哈，修修改改，基本上就可以用来了。

https://github.com/goto456/stopwords

53AI，企业落地大模型首选服务商

产品：场景落地咨询+大模型应用平台+行业解决方案

承诺：免费POC验证，效果达标后再合作。零风险落地应用大模型，已交付160+中大型企业

相关资讯

2026-06-12

3.1万Star！PageIndex：不用向量数据库，RAG准确率做到98.7%

2026-06-11

AI落地实战：企业RAG全链路实施方案

2026-06-11

你的 RAG 在 10 个文档上跑得好好的，放到 1000 万就崩了

2026-06-11

主流RAG技术全景 -- 从Naive到Agentic

2026-06-10

如何构建一个更“好”的知识库？

2026-06-10

7.9K星：Google黑科技TurboQuant开源实现，Rust重写向量检索提速30倍

2026-06-10

企业级智能体系统 RAG的分片优化逻辑

2026-06-10

Vector Graph RAG 开源！一套向量数据库同时搞定语义检索+RAG多跳

联系获取

联系获取

160+中大型企业正在使用53AI

立即咨询预约演示

把握AI发展的机遇，共同探索、共同进步

2025-01-22

如何打造基于GenAI的员工服务机器人

2025-01-22

热点资讯

知识基座：让“AI 越用越懂业务”的团队经验实践【天猫AI Coding实践系列】

2026-03-23

全网爆火的大模型AI知识库，保姆级教程来了

2026-04-06

从RAG到GraphRAG：货拉拉元数据检索应用实践

2026-03-18

为什么总感觉 Claude Code 比 Cursor 聪明？真正的原因根本不是模型能力！

2026-03-20

Karpathy的LLM Wiki + 3.5 万Star的Graphify：企业级 RAG 缺的真是知识图谱？

2026-04-27

RAG进化了，深扒Claude Code源码中RAG高级技巧

2026-04-02

面向手机Agent的记忆系统工程:OPPO的Agentic-RAG实战与演进

2026-03-21

OpenDataLoader：PDF文档提取的一站式方案

2026-03-31

企业AI落地三重门，用友如何破局？

2026-03-17

2026 年做搜索就是做 Agent Memory

2026-04-23

大家都在问

如何构建一个更“好”的知识库？

2026-06-10

企业 RAG 知识库落地，应如何设计实现？

2026-06-10

AIOps探索：给不能联网的客户做一个AI运维助手到底有多难？

2026-05-20

有多少人把Agent与RAG的检索策略，简化成了 if-else？

2026-05-18

到底是谁会相信RAG已死啊？

2026-05-11

1G内存检索2500万向量，Milvus中如何用FLAT在强标量过滤场景搞定毫秒响应？

2026-05-07

多Agent场景，子agent 之间数据读写不同步，如何解决？

2026-05-06

Karpathy的LLM Wiki + 3.5 万Star的Graphify：企业级 RAG 缺的真是知识图谱？

2026-04-27

热门标签

内容创作大模型技术个人提效 langchain llamaindex 多模态技术 RAG技术智能客服知识图谱模型微调 RAGFlow coze Dify Fastgpt Bisheng Qanything AI+汽车 AI+金融 AI+工业 AI+培训 AI+SaaS Skill 提示词技巧 AI+电商 AI面试数字员工 ChatBI AI知识库开源大模型智能营销智能硬件 FDE AI+医疗 MaxKB Palantir Glean Openclaw

应聘简历请发送至： ceo@53ai.com

联系我们

售前咨询

预约演示

微信扫码

添加专属顾问

回到顶部