微信扫码
添加专属顾问
我要投稿
苹果又来放大招了!
这次他们搞出了个叫"超位提示"的新技术,简直就是给RAG装上了光速引擎。
不知道大家还记不记得前阵子OpenAI那个GPT-4o mini?能力“据说”接近GPT-4,但价格却大幅下降。
这不,苹果看不下去了,直接祭出大杀器:超位提示(Superposition prompting)。
这玩意儿有多牛?用在MPT-7B模型上,在NaturalQuestions-Open数据集上的计算时间直接缩短了93倍!
看到这个数字,我都怀疑是不是写错了,结果仔细一查还真没错。
这简直是AI界的光速引擎啊!再这么搞下去,以后问AI问题是不是连眨眼的时间都不用了?
让我们来看看这个"超位提示"到底是个啥东西。
简单来说,它是一种新的RAG(检索增强生成)方法,专门为那些基于transformer的预训练大语言模型设计的。
跟传统的"链表式"DAG(有向无环图)不同,超位提示采用了一种叫"ForkJoin拓扑"的结构,可以并行处理输入文档。
有细心网友发现:
"等等,这不就是把GPU的并行计算思路搬到了NLP领域吗?苹果这波操作可以啊!"
确实如此。而且更厉害的是,它还能进行迭代超位,这让模型在多跳推理任务上的表现也有了显著提升。
那效果如何呢?
据研究团队透露,在相同的数据集上,准确率提高了43%。不仅如此,它还超越了像Naive LLM-RAG、BM-25、TF-IDF和Contriever这样的基线方法。
更令人惊讶的是,这个方法在各种规模和架构的模型上都表现出色,包括OpenELM、BLOOMZ和MPT。
此外,研究团队表示,在MuSiQue数据集上的测试显示,超位提示在多跳推理任务上的表现反而有所提升。
苹果这次的"超位提示"技术不仅大幅提升了处理速度,还在一定程度上提高了准确性,可以说是一石二鸟。
53AI,企业落地大模型首选服务商
产品:场景落地咨询+大模型应用平台+行业解决方案
承诺:免费POC验证,效果达标后再合作。零风险落地应用大模型,已交付160+中大型企业
2025-07-31
精准与效率:RAG应用PDF文档图文提取OCR策略
2025-07-31
聊聊Dify如何集成Milvus向量库做RAG
2025-07-31
RAG + Claude的1TB大文档问答系统实战操作
2025-07-31
RAG召回质量翻倍的两个核心技术:我是这样解决"找不准"问题的
2025-07-31
测试不同的RAG技术以找到最佳方案
2025-07-30
Spring AI + Milvus 实现 RAG 智能问答实战
2025-07-30
AI问答系统崩溃?这篇RAG优化实战指南,教你解决90%的检索问题
2025-07-30
基于MCP-RAG的大规模MCP服务精确调用方法
2025-06-06
2025-05-30
2025-06-05
2025-05-19
2025-05-08
2025-05-10
2025-06-05
2025-05-20
2025-06-05
2025-05-09
2025-07-28
2025-07-09
2025-07-04
2025-07-01
2025-07-01
2025-07-01
2025-07-01
2025-06-30