微信扫码
添加专属顾问
我要投稿
掌握 DeepSeek-R1 模型,开启本地部署与知识库构建新篇章。 核心内容: 1. DeepSeek-R1 模型的本地部署详细流程 2. UltraRAG 框架的细节与功能介绍 3. VanillaRAG 与 Adaptive-Note 在法律领域问答的实际效果对比
VanillaRAG:是最基础的 RAG(Retrieval-Augmented Generation,检索增强生成)架构,通常指的是未经优化或改进的标准 RAG 方法。它的基本流程包括:查询构造(Query Formation)、检索(Retrieval)、生成(Generation) Adaptive-Note: 一种用于复杂问答任务的自适应笔记增强 RAG 方法,采用 检索-记忆(Retriever-and-Memory) 机制, iteratively 收集和优化知识结构。它通过自适应记忆复审和任务导向生成提高知识交互质量,并采用基于笔记的探索终止策略确保信息充分获取,以提升答案质量。论文: https://arxiv.org/abs/2410.08821
docker-compose up --build -d
#创建conda环境conda create -n ultrarag python=3.10#激活conda环境conda activate ultrarag安装相关依赖pip install -r requirements.txt -i https://pypi.tuna.tsinghua.edu.cn/simple
vllm serve DeepSeek-R1-Distill-Qwen-14B --gpu-memory-utilization 0.8 --dtype auto --api-key token-abc123
nohup vllm serve DeepSeek-R1-Distill-Qwen-14B --gpu-memory-utilization 0.8 --dtype auto --api-key token-abc123 &
streamlit run ultrarag/webui/webui.py --server.fileWatcherType none
这里附上超详细视频教程,可以对照细节一步步上手:
以上全部功能,都可以直接通过 web 前端快速实现。
53AI,企业落地大模型首选服务商
产品:场景落地咨询+大模型应用平台+行业解决方案
承诺:免费场景POC验证,效果验证后签署服务协议。零风险落地应用大模型,已交付160+中大型企业
2025-07-18
DeepEval使用自定义模型评估RAG实例
2025-07-18
用 LangGraph 打造了一个迷你 RAG:150 行代码跑通知识库问答
2025-07-18
RAG文档处理的一种优化方案——问答对的转换技巧
2025-07-18
【精读】构建和扩展 RAG 系统的实践经验总结
2025-07-17
聊聊在Dify上如何做高效RAG&集成Milvus向量库存储检索的原理
2025-07-17
基于Dify 知识库的实验demo:从0到1构建智能商品分类系统
2025-07-16
Dify智能体开发:RAG 技术深度解析与知识库实战指南
2025-07-16
爆改RAG!Relevant Segment Extraction(RSE)让你的AI检索“有头有尾”,不再碎片化
2025-05-08
2025-06-06
2025-04-23
2025-05-30
2025-05-19
2025-06-05
2025-05-10
2025-04-28
2025-06-05
2025-04-21
2025-07-09
2025-07-04
2025-07-01
2025-07-01
2025-07-01
2025-07-01
2025-06-30
2025-06-29