我要投稿

使用RAG技术构建企业级文档问答系统：切分(3)使用Jina API进行语义切分

发布日期：2025-01-13 14:47:04 浏览次数： 1907 作者：超乎想象的科技圈

概述

Jina AI是一家成立于2020年的人工智能公司，专注于开发用于搜索和智能分析的开源软件。提供了非常多好用的API，例如Jina Reader可以将网页解析为Markdown文档、Reranker可以对RAG的向量模型检索到的文档进行重排序等，除了在线API，在HuggingFace上也开源了若干模型。

今天我们要使用的，是Jina提供的文本切分工具，它是以REST API形式提供服务的，主页为：

https://jina.ai/segmenter/

Jina Segment API提供语义切分能力，更重要的是，它是免费的，不过国内用户需要注意自己的网络是否能够访问。

下图是官方网站提供的对《汉书》的切分效果，可以看出，对于文言文，也可以有比较好的切分结果。

API有一些参数，可以在官方页面上通过交互式的方式进行探索，找到一个最优参数后，就可以固定到自己的工作流中了。

效果

从下图可以看出，使用Jina Segment API，最终的问答结果，相比Baseline还是有一定差距的，从概述中《汉书》的切分效果也可以看出，Jina会把标题和正文切割开，而在RAG场景中，标题的作用一般是非常大的，我们在使用RAG技术构建企业级文档问答系统：切分(1)Markdown文档切分的实验中也验证了这一点。

代码

本文对应完整代码已开源，地址在：https://github.com/Steven-Luo/MasteringRAG/blob/main/split/03_jina_segment_api.ipynb

由于是调用Jina API，切分的核心代码非常简单，使用POST请求将全文放到content中即可，其他参数可以直接从官方网站拷贝。

 
   Document

 (text, max_len=):
    url = 
    headers = {
: ,
: 
    }
    data = {
: text,
: ,
: ,
: max_len
    }
    response = requests.post(url, headers=headers, json=data)
    resp_json = response.json()
    chunks = resp_json[]
 [Document(page_content=chunk.strip())  chunk  chunks  chunk.strip() != ]

53AI，企业落地大模型首选服务商

产品：场景落地咨询+大模型应用平台+行业解决方案

承诺：免费场景POC验证，效果验证后签署服务协议。零风险落地应用大模型，已交付160+中大型企业

相关资讯

2025-04-30

聊聊AI智能体框架MetaGPT下的RAG实践

2025-04-30

如何用大模型+RAG给宠物做一个AI健康助手（干货分享）？

2025-04-30

HiRAG:基于层级知识索引和检索的高精度RAG

2025-04-29

教程|通义Qwen 3 +Milvus，混合推理模型才是优化RAG成本的最佳范式

2025-04-29

RAG开发框架LangChain与LlamaIndex对比解析：谁更适合你的AI应用？

2025-04-29

RAG性能暴增20%！清华等推出“以笔记为中心”的深度检索增强生成框架，复杂问答效果飙升

2025-04-29

超神了，ChatWiki 支持GraphRAG，让 AI 具备垂直深度推理能力！

2025-04-29

AI 产品思维：我如何把一个 AI 应用从基础 RAG 升级到 multi-agent 架构

了解更多

了解更多

160+中大型企业正在使用53AI

立即咨询预约演示

把握AI发展的机遇，共同探索、共同进步

2025-01-22

如何打造基于GenAI的员工服务机器人

2025-01-22

热点资讯

全网最全国内Agent平台深度测评：扣子、Dify、FastGPT，谁是你的Agent开发首选？

2024-10-27

一文彻底搞懂大模型 - RAG（检索、增强、生成）

2024-09-04

GraphRAG+Ollama 本地部署，保姆教程，踩坑无数，闭坑大法

2024-07-18

RAGFlow：基于OCR和文档解析的下一代 RAG 引擎

2024-05-05

RAG框架，都在这了!

2024-06-20

RAG 高效应用指南：Embedding 模型的选择和微调

2024-06-13

深入解析 Graph RAG：提升语言模型问答能力的创新策略

2024-07-09

微软开源的GraphRAG解读

2024-07-09

基于Llama 3 构建RAG语音助手：将本地 RAG 与 Qdrant、Whisper 和 LangChain 集成

2024-05-19

Prompt工程师必备：复旦重磅 | 最佳RAG实践长什么样的？

2024-07-07

大家都在问

如何用大模型+RAG给宠物做一个AI健康助手（干货分享）？

2025-04-30

RAG开发框架LangChain与LlamaIndex对比解析：谁更适合你的AI应用？

2025-04-29

做好 AI Agent 最重要的是什么？

2025-04-29

RAG比之MCP或长上下文LLM，要没落了吗？

2025-04-26

HR AI小科普——什么是MCP？

2025-04-25

RAG应用必备！10种向量数据库全解析、Weaviate、Milvus、pgvector、Qdrant等热门工具谁更强？

2025-04-22

18种RAG技术大比拼：谁才是检索增强生成的最佳选择？

2025-04-22

大模型能像专业分析师一样提取用户需求吗？

2025-04-20

热门标签

内容创作大模型技术个人提效 langchain llamaindex 多模态技术 RAG技术智能客服知识图谱模型微调 RAGFlow coze Dify Fastgpt Bisheng Qanything AI+汽车 AI+金融 AI+工业 AI+培训 AI+SaaS 提示词框架提示词技巧 AI+电商 AI面试数字员工 ChatBI 知识管理开源大模型智能营销智能硬件智能化改造 AI+医疗 MaxKB

应聘简历请发送至： ceo@53ai.com

友情链接：

CopyRight © 2012-2024 深圳市博思协创网络科技有限公司版权所有

粤ICP备17114055号

广州：广州市华景路37号(华景软件园)暨南大学科技大厦6楼（整层）

深圳：深圳市福田区泰然四路29号天安创新科技广场一期A座1204

上海：上海市浦东新区金新路58号1602室

微信扫码
和创始人交个朋友

联系我们

售前咨询

预约演示

微信扫码

添加专属顾问

回到顶部