我要投稿
微信搜一搜，关注“PaperAgent”
随着大模型上下文窗口扩大到100K-200K Token（开源）或者200万-1000万字（商业），不少人开始质疑检索增强生成（RAG）是否已经过时？
| 企业机构 | 模型名称 | 上下文长度 | 开/闭源 | 是否中文 | |
| 360 | 360Zhinao-7B-Chat-360K | 360K | 开源 | 是 | |
| 猎户星空 | Orion-14B-LongChat | 200K-320K | 开源 | 是 | |
| 元象XVERS | XVERSE-Long-256K | 256K | 开源 | 是 | |
| 上海AI Lab | InternLM2-Chat-7B/20B | 200K | 开源 | 是 | |
| 零一万物 | Yi-6B-200K | 200K | 开源 | 是 | |
| 百川智能 | Baichuan2-192K | 192K | 开源 | 是 | |
| NousResearch | Yarn-Mistral-7b-128k | 128K | 开源 | 否 | |
| Anima | Anima-7B-100K | 100K | 开源 | 否,中文需要申请 | |
| Anthropic | Claude 2.1 | 200K | 闭源 | 是 | |
| 智谱AI | GLM4 | 128K | 闭源 | 是 | |
| OpenAI | ChatGPT-Turbo | 128K | 闭源 | 是 | |
| 月之暗面 | Kimi Chat | 20万字 | 闭源 | 是 | |
| 月之暗面 | Kimi Chat Longer | 200万字 | 闭源 | 是 | |
| 通义千问 | qwen | 1000万字 | 开/闭源 | 是 | |
LangChain团队（Lance Martin 软件工程师）结合几个最新研究项目成果来探讨、分析这个问题。通过多针“大海捞针”方法，深入分析了长上下文大模型在事实推理和检索（reasoning & retrieval in long context LLMs）方面的局限性，接着分析了长上下文给RAG带来的新变化，如以文档为中心的索引技术（RAPTOR+Long embeddings）和RAG的流程变化（Self-RAG、CRAG）。
多针“大海捞针” ：https://blog.langchain.dev/multi-needle-in-a-haystackChallenge may be recency bias in LLMs：https://arxiv.org/pdf/2310.01427.pdfRAG from scratch：https://github.com/langchain-ai/rag-from-scratchRAG新突破RAPTOR： https://github.com/parthsarthi03/raptorDense X Retrieval: https://arxiv.org/pdf/2312.06648.pdfTogether Embeddings：https://www.together.ai/blog/embeddings-endpoint-releaseSelf-RAG：https://arxiv.org/abs/2310.11511CRAG：Corrective Retrieval Augmented Generation https://arxiv.org/abs/2401.15884
53AI，企业落地大模型首选服务商
产品：场景落地咨询+大模型应用平台+行业解决方案
承诺：免费场景POC验证，效果验证后签署服务协议。零风险落地应用大模型，已交付160+中大型企业
2025-06-14
AI开发实战：解决RAG的召回不准问题
2025-06-13
揭开RAG的神秘面纱：90%的人不知道腾讯IMA底层原理
2025-06-13
金融智脑：破解RAG系统在金融场景中常见失败的七大陷阱
2025-06-13
从零开始学 Dify - Dify 的 RAG 系统如何有效地处理和检索大量文档？
2025-06-13
大模型：多种RAG组合优化（langchain实现）
2025-06-12
深入使用 Deep Research 后，我确信 RAG 的未来是 Agent
2025-06-12
从传统 RAG 到知识图谱 + Agent，知识库 AI 问答成功率终于达到 95% 了，来自蚂蚁集团的经验
2025-06-12
GraphRAG变种这么多，该采用哪种？九大GraphRAG评估参考
2025-03-21
2025-03-20
2025-03-24
2025-03-17
2025-03-24
2025-03-19
2025-03-24
2025-03-28
2025-04-01
2025-03-23
2025-06-13
2025-06-09
2025-06-06
2025-05-30
2025-05-29
2025-05-29
2025-05-23
2025-05-16
回到顶部
粤ICP备17114055号