RAG-Quivr本地部署

开源地址

https://github.com/QuivrHQ/quivr?tab=readme-ov-file

教程

确保本地是否安装以下容器：
```
Docker -v
Docker Compose -v
```
安装 Docker

Docker
Docker Compose

安装 Supabase CLI

supabase -v #如果没有，通过以下命令进行安装
brew install supabase/tap/supabase

克隆源码到本地

git clone https://github.com/quivrhq/quivr.git && cd quivr

复制 .env.example files

cp .env.example .env

更新 .env files 中的“OPENAI_API_KEY”，改成自己的 OpenAI 的 key

vim .env #也可以使用其他编辑器

启动项目

cd backend && supabase start
#supabase stop
#继续执行
cd ../
docker compose pull
#docker compose build backend-core
#docker compose up 
docker compose up --build

登录应用

地址：http://localhost:3000/login.
账号：admin@quivr.app
密码：admin

后端API地址：http://localhost:5050/docs
supabase地址：http://localhost:54323

异常错误

页面访问：http://localhost:3000/login

页面提示：Unpaid users have access to a free and limited demo of Quivr

命令行显示：GET /user/identity HTTP/1.1" 403 Forbidden

‍未解决。。。。。。。

推荐新闻

RAG系列04：使用ReRank进行重排序

本文介绍了重排序的原理和两种主流的重排序方法：基于重排模型和基于 LLM。文章指出，重排序是对检索到的上下文进行再次筛选的过程，类似于排序过程中的粗排和精排。在检索增强生成中，精排的术语就叫重排序。文章还介绍了使用 Cohere 提供的在线模型、bge-reranker-base 和 bge-reranker-large 等开源模型以及 LLM 实现重排序的方法。最后，文章得出结论：使用重排模型的方法轻量级、开销较小；而使用 LLM 的方法在多个基准测试上表现良好，但成本较高，且只有在使用 ChatGPT 和 GPT-4 时表现良好，如使用其他开源模型，如 FLAN-T5 和 Vicuna-13B 时，其性能就不那么理想。因此，在实际项目中，需要做出特定的权衡。

LangGPT论文：面向大语言模型的自然语言编程框架（中文版）

大语言模型 (Large Language Models, LLMs) 在不同领域都表现出了优异的性能。然而，对于非AI专家来说，制定高质量的提示来引导 LLMs 是目前AI应用领域的一项重要挑战。

第三篇：要真正入门AI，OpenAI的官方Prompt工程指南肯定还不够，您必须了解的强大方法论和框架！！！

自从ChatGPT（全名：Chat Generative Pre-trained Transformer）于2022年11月30日发布以来，一个新兴的行业突然兴起，那就是提示工程（Prompt engineering），可谓如日冲天。从简单的文章扩写，到RAG，ChatGPT展现了前所未有的惊人能力。

（三）12个RAG痛点及其解决方案

痛点9:结构化数据QA 痛点10:从复杂 PDF 中提取数据痛点11:后备模型痛点12:LLM安全

（二）12个RAG痛点及其解决方案

痛点5:格式错误痛点6:不正确的特异性痛点7:不完整痛点8:数据摄取可扩展性