微信扫码
添加专属顾问
我要投稿
掌握 DeepSeek-R1 模型,开启本地部署与知识库构建新篇章。 核心内容: 1. DeepSeek-R1 模型的本地部署详细流程 2. UltraRAG 框架的细节与功能介绍 3. VanillaRAG 与 Adaptive-Note 在法律领域问答的实际效果对比
VanillaRAG:是最基础的 RAG(Retrieval-Augmented Generation,检索增强生成)架构,通常指的是未经优化或改进的标准 RAG 方法。它的基本流程包括:查询构造(Query Formation)、检索(Retrieval)、生成(Generation) Adaptive-Note: 一种用于复杂问答任务的自适应笔记增强 RAG 方法,采用 检索-记忆(Retriever-and-Memory) 机制, iteratively 收集和优化知识结构。它通过自适应记忆复审和任务导向生成提高知识交互质量,并采用基于笔记的探索终止策略确保信息充分获取,以提升答案质量。论文: https://arxiv.org/abs/2410.08821
docker-compose up --build -d
#创建conda环境conda create -n ultrarag python=3.10#激活conda环境conda activate ultrarag安装相关依赖pip install -r requirements.txt -i https://pypi.tuna.tsinghua.edu.cn/simple
vllm serve DeepSeek-R1-Distill-Qwen-14B --gpu-memory-utilization 0.8 --dtype auto --api-key token-abc123
nohup vllm serve DeepSeek-R1-Distill-Qwen-14B --gpu-memory-utilization 0.8 --dtype auto --api-key token-abc123 &
streamlit run ultrarag/webui/webui.py --server.fileWatcherType none
这里附上超详细视频教程,可以对照细节一步步上手:
以上全部功能,都可以直接通过 web 前端快速实现。
53AI,企业落地大模型首选服务商
产品:场景落地咨询+大模型应用平台+行业解决方案
承诺:免费POC验证,效果达标后再合作。零风险落地应用大模型,已交付160+中大型企业
2025-09-03
DeepMind爆火论文:向量嵌入模型存在数学上限,Scaling laws放缓实锤?
2025-09-02
在企业开发中——RAG技术常见的问题以及解决方案
2025-09-02
从原理到落地:RAG 技术全解析,手把手教你搭建专属知识库
2025-09-01
RAG效果不佳?先别急着微调模型,这几个关键节点才是优化重点
2025-08-30
涌现观点|RAG评估的"不可能三角":当独角兽公司因AI评估失误损失10亿美元时,我们才意识到这个被忽视的技术死角
2025-08-29
RAG2.0进入“即插即用”时代!清华YAML+MCP让复杂RAG秒变“乐高”
2025-08-29
利用RAG构建智能问答平台实战经验分享
2025-08-29
RAG如七夕,鹊桥大工程:再看文档解析实际落地badcase
2025-06-05
2025-06-06
2025-06-05
2025-06-20
2025-06-20
2025-07-15
2025-06-24
2025-06-24
2025-06-05
2025-07-16
2025-09-03
2025-08-28
2025-08-25
2025-08-20
2025-08-11
2025-08-05
2025-07-28
2025-07-09