粤ICP备17114055号
微信扫码
添加专属顾问
支持私有化部署
我要投稿
上周给大家分享过Jina AI最新的研究，late chunking， 通过将chunk分块后置到emebedding之后，来达到提升召回的效果。 今天给大家分享一个新的策略，称为DS-RAG。
一个不好的分块，会带来很多的问题，比如说以下几点：
等等。。。
解决方案有2种：
前者添加上下文头的目的是给文档块添加更多的上下文信息，这些上下文头会随着块一级被向量模型编码。下图是个例子：
测试添加块头能明显的提高相关的文档块与query的相关性。
同样，针对这个query，如果我们计算与这个文档所有块的相似度。可以绘制出下面的点图，围绕在chunkid_400附近存在一些高相似度的文档块。当一个块附近的文档块都与query相近时，我们可以把这些块合并成一个段（segments）。如果把这些段合并作为整体送入LLM，可能可以获得更好的效果。那如何识别这些段的存在呢？因为已经计算了query与块的相关性，所以直接减去一个常数超参，让相关的块的score仍为正数，不相关的为负数。这个超参越大，段越小，反之，得到的段越大。
通过这种方法可以得到一个大段。
这个策略的一个优点是，当部分被排序模型认为不相关的块，但夹在高度相关的块之间，通常与query也是相关的。
因此，除了为LLM提供更完整的上下文之外，这种动态构建相关文本片段的方法还使我们的检索系统对排序模型所犯的错误不太敏感。
项目代码：https://github.com/D-Star-AI/dsRAG/tree/main
53AI，企业落地大模型首选服务商
产品：场景落地咨询+大模型应用平台+行业解决方案
承诺：免费场景POC验证，效果验证后签署服务协议。零风险落地应用大模型，已交付160+中大型企业
2025-04-30
速报！DeepSeek-Prover-V2-671B 悄然上线，或为 R2 铺路？
2025-04-30
“Qwen3之后，我才真正敢投AI应用”
2025-04-30
真·开源MCP平台来了！ACI.dev能一站直连600+工具，让你的智能体秒变全能王！
2025-04-30
n8n：免费+开源的自动化神器，比dify更简单，比Make更强大！
2025-04-30
宝藏发现：Sim Studio，一款让AI工作流搭建变简单的开源利器
2025-04-29
我们有必要使用 Qwen3 吗？
2025-04-29
Qwen3开源发布：Think Deeper, Act Faster！社区推理、部署、微调、MCP调用实战教程来啦！
2025-04-29
阿里 Qwen3 技术详解: 4B 参数媲美 72B，MoE 架构的开源突破
2024-07-25
2025-01-01
2025-01-21
2024-05-06
2024-09-20
2024-07-20
2024-07-11
2024-06-12
2024-08-13
2024-12-26
2025-04-30
2025-04-29
2025-04-28
2025-04-28
2025-04-28
2025-04-21
2025-04-19
2025-04-17
回到顶部