微信扫码
添加专属顾问
我要投稿
引言:
在人工智能的世界里,优化模型以提高准确率是一项充满挑战的任务。本文将带您走进一个RAG(Retrieval-Augmented Generation)模型优化的实战案例,展示OpenAI是如何一步步将准确率从45%提升至98%的。
有一个客户,他们拥有一个RAG管道和两个不同的知识库,以及一个LLM。该系统的目的是获取用户问题,决定使用哪个知识库,触发查询并用它来回答问题。
起初,只是实现了检索功能,基线准确率仅为45%。通过一系列迭代,将尝试的东西旁边标注了勾号和十字,勾号表示实际投入生产的,十字表示尝试后放弃的。通过尝试假设的文档嵌入,生成一个假答案然后进行搜索,尝试了分块和嵌入,调整信息块的大小并嵌入不同内容,在20次迭代后,逐步将准确率提升至65%。
然而65%,这还远远不够,几乎要放弃,但坚持让同学们找到了新的方向。通过重新排序结果,使用交叉编码器和基于规则的方法,交叉编码器显著提高了性能,基于规则的方法还有分类,让模型判断内容属于哪个领域,并根据分类提供额外的元数据,帮助模型决定最相关的内容,准确率提升至85%。
53AI,企业落地大模型首选服务商
产品:场景落地咨询+大模型应用平台+行业解决方案
承诺:免费POC验证,效果达标后再合作。零风险落地应用大模型,已交付160+中大型企业
2025-09-13
中文显示成功率99% 被低估的文生图工具Qwen-Image,无废话,纯干货 实测提示词
2025-09-13
Java 版 DeepResearch 的实现和使用方式
2025-09-13
涌现观点|别被“AI Agent”的万亿神话骗了,这才是你应该知道的真相
2025-09-13
这可能是Human-in-the-Loop最具象化的演绎 | 长程推理Agent设计实践
2025-09-13
ai问答助手类产品策略与指标
2025-09-13
蚂蚁数科宣布:支持企业客户按大模型应用效果付费
2025-09-13
阿里Qoder IDE进行AI辅助编程的简单验证
2025-09-13
Docling将pdf转markdown以及与AI生态集成
2025-08-21
2025-06-21
2025-08-21
2025-08-19
2025-06-19
2025-07-29
2025-09-08
2025-08-19
2025-08-20
2025-07-04
2025-09-12
2025-09-11
2025-09-11
2025-09-09
2025-09-09
2025-09-08
2025-09-08
2025-09-07