2026年7月16日 周四晚上19:30,报名腾讯会议了解“如何构建自进化的动态知识库(Brain)”(限30人)
免费POC, 零成本试错
FDE知识库

FDE知识库

学习大模型的前沿技术与行业落地应用


收藏

如何让AI写出高质量的数据分析报告?DataV-Note的评估体系揭秘

发布日期:2025-06-26 08:48:50 浏览次数: 2419
作者:阿里云开发者

微信搜一搜,关注“阿里云开发者”

推荐语

阿里DataV-Note揭秘AI数据分析报告评估体系,解决行业缺乏统一标准的痛点,让AI生成报告更可靠可信。

核心内容:
1. DataV-Note评估模型的设计目标与四大应用场景
2. 评估体系架构设计:Qwen VL与Qwen 3模型的协同应用
3. 视觉识别提示词调优等关键技术细节突破

杨芳贤
53AI创始人/腾讯云(TVP)最具价值专家

本文围绕DataV-Note智能分析创作平台的评估体系建设展开,旨在探索如何在AI技术快速发展的背景下,构建一套科学、可量化、多维度的数据分析报告评估体系。

一、前言

在AI技术蓬勃发展的时代浪潮中,我部门于两年前推出DataV-Note智能分析创作平台,通过提供数据分析洞察、行业数据分析报告、学术/医学研究报告的智能仿写等创新服务,致力于实现数据价值与文字表达的深度融合

DataV智能化生成大屏、数据地图、数据报告体验链接:https://datav.aliyun.com/ai

随着各类Data/Analyze Agent相继涌现,行业生态面临前所未有的市场压力。然而,来自销售团队与用户的实际反馈表明,这类智能工具仍面临两大核心问题:缺乏统一的评估标准,以及其判断准确性和技术成熟度的持续争议。这种认知差异不仅影响产品价值的有效传达,也给行业规范化发展带来重要挑战。

二、建立量化评估标准,构建评估模型

2.1、评估模型的目标确立

在构建评估模型前,我们需系统梳理其核心目标及应用场景,以细化后续系统设计工作:

  • 产品验证建立可量化的准确度评估指标;输出符合行业标准的评估报告;

  • 竞品分析通过多维度对比,生成差异化竞争力评估报告;

  • 自动化测试对于模型的频繁切换、提示词优化、AI工程优化等需求进行回归测试评估;

  • 准确度提升通过将评估模型深度嵌入产品优化闭环系统,动态校准原有智能体的幻觉;

2.2、评估模型的初步设计

(1)设计前言

在着手搭建评估模型前,我们先研究现有分析报告的产物,这将有助于更优雅地设计把握模型设计的架构:

以下图片是对自然灾害的分析报告部分片段

从上图可以看出,与传统评估模型侧重文字和数值判断不同,我们的评估体系覆盖了更立体的分析维度。评估范围不仅包含文本、图表、代码、表格,还延伸至整体分析框架和方法论。大多数的数据分析产品通常输出PDF、Word、PNG或HTML格式的产物。因此,我们设计的模型既需要识别多模态的内容,也需要支持读取丰富格式的导出产物。

(2)设计架构

经过综合考量,我们选用了Qwen VL模型负责内容提取,Qwen 3模型承担内容评估工作,并据此制定了以下技术架构方案:

(3)设计细节

在搭建评估系统时,我们经历了不少挑战,也摸索出不少改进方法。接下来重点分享其中几个关键细节

【1】细节一、视觉识别提示词调优

虽然市面上已有不少提示词优化工具和教程,但对于涉及视觉识别的任务来说,这些工具往往只能实现70-80分的水平。如下面例子所示,这类任务需要我们特别注意:

  • 完整描述视觉元素清晰地描述所有的视觉元素,以及所有元素的特征;

  • 明确操作流程将复杂任务拆解为可执行的步骤,每个可执行的步骤必须清楚、细致;

  • 严格的边界限制以免幻觉和意外的结果发生;

视觉识别Prompt

## 角色你是一位专业的图像分析专家,擅长从图片中提取图表、表格、代码和文字等类型的内容,并能够准确描述对应内容的详细信息和数值。
## 任务### 任务1:提取图表类型的对应信息  - 1、特别仔细的观察图片,图表的背景和报告的背景颜色明显不同  - 2、识别图表的**图表类型**,可通过图表展示或者图表的上下文提示来进行识别,如柱状图、折线图、饼图等等  - 3、识别图表的**标题**,假如图表上方出现加粗的字体,则为图表的标题,若没有图表上方加粗字体,则输出"无"  - 4、识别图表的**元信息**,例如:柱状图需要识别x、y轴信息,饼图需要识别每个扇区的名称等等  - 5、识别图表的**内容**,即图表的完整具体数据,数据只允许来源于图表识别,识别不出则输出"无法识别"
### 任务2:提取表格类型的对应信息  - 1、识别表格的**元信息**,即表格的头部(columns)信息,数据只允许来源于表格识别,识别不出则输出"无法识别"  - 2、识别表格的**内容**,即表格的具体数据,数据只允许来源于表格识别,识别不出则输出"无法识别"
### 任务3:提取代码类型的对应信息  - 1、识别代码中的**类型**,请识别语言的类型,类型有"SQL""Python"  - 2、识别代码中的**内容**
### 任务4:提取文字类型的对应信息  - 1、识别代码中的**文字类型**,类型有"内容""注释"。注释一般是较小的字体,有可能伴随着斜体,颜色会比正常内容更浅  - 2、识别代码中的**内容**,需要识别图上除了图表标题以为的所有问题
## 输出格式- 参照以下例子的格式作为输出格式:{  '文件名''xxx',  '标题''xxx',  '正文': [{    '章节标题''xxx',    '内容': [{      '类型''xx'// 类型为“图表”、“表格”、“代码”和“文字”等类型      '内容''xxxx'    }, {      '类型''xx',      '内容'''     }, {      '类型''xx'      '图表类型''xxx'// 只有“图表”类型有      '标题''',  // 只有“图表”类型有      '元信息'''// 只有“图表”类型有      '内容': xxx, // “图表”类型中,内容输出json格式    }]   }]}
## 限制- 只针对图片内容进行描述和分析,不涉及其他无关信息- 提取信息过程忽略页头和页尾- 必须按照图片报告的排版顺序进行解析- 在描述图片时,确保信息的准确性和完整性- 在提取“文字”信息时,确保文字的清晰度和可读性- 在提取“图表”信息时,确保图表的信息准确性和完整性,必须输出所有内容,不能省略某些信息- 在提取“图表”的“内容”字段信息时,内容可以根据所在章节的上下文进行数值校验,以文字描述为主- 判断类型时,严格按照给定的类型进行分类- 请再三检查,严格按标准的输出格式进行输出,输出的JSON格式不能有语法错误
【2】细节二、智能体的原子性

三心两意,对于打工人“牛马”都做不到,更何况现在“不太聪明”的智能体。因此,智能体必须保持原子性,主要体现到以下两点:

  • 功能/角色原子性每个智能体都是相对独立的功能单元。例:不能让智能体既要做图片识别的工作又要评估的工作。

  • 维度/类别原子性每个智能体都是单独维度、类别的单元。例:在“评估推理大师”的角色中,不能让大模型既要做“归因分析”的评估,又要做“可视化”的评估。

常见的误解:在设计智能体时要把握好切分的尺度,过度拆分会导致增加token消耗,又可能导致并发负载过高。举个实际场景,在分析报告时,"中位数"和"平均数"这类同属统计维度的概念,完全可以通过同一个智能体完成识别解析,没有必要拆分。

【3】细节三、输入数据过滤、清洗

输入数据的过滤、清洗尤为关键,主要体现为以下两点:

  • 千万不要用大模型来做数据清洗工作大模型虽然擅长搜索和推理,但在处理数据清洗、字段拼接这类操作时效率较低,而且结果往往不如预期理想。

  • 遵循最小化原则如【2】所述,每个智能体都是相对独立的功能单元,通过最小化数据输入既能减少token消耗,也能让模型更专注处理核心内容片段。

如下图所示,“归因分析评估智能体”主要聚焦于文本内容分析,“可视化评估智能体”则专注于图表识别。若直接将完整报告内容全部输入,不仅会显著增加各智能体的处理负担,导致token消耗激增,还可能引发模型输出偏差(幻觉)。建议通过内容切片分类机制,按需输入对应模块所需数据,既能提升处理效率,又能保证分析准确性。

2.3、评估标准的建立

在实际体验中,当用户提问数次都未能获得有效反馈时,用户就很可能给这款AI产品判“死刑”。因此,在搭建评估体系时,必须从各个维度全面地评估产品,并且不能忽视大模型的随机性。具体来说,我采用两种评估方式:

  • 纵向评估我会针对同一问题生成5-10份分析报告。以“基础维度”、“可视化维度”、“归因分析维度”来作为评估的维度,并且会给每一份报告打分。

  • 横向对比评估将多份报告并列比对时,重点排查“主题”、“建议”、“核心指标”等异常的情况。

值得注意的是:在进行横向对比时,需要特别注意前提条件的严格把控,不能出现“牛头不搭马嘴”的情况。例:当我们比较核心指标时,必须确保统计维度、计算规则和业务背景都保持一致。

(1)纵向(单份报告评估)评估体系

考虑到篇幅限制,我将重点呈现"归因分析维度"的评估内容:

### 归因分析维度* 数据统计维度  * 内容:内容中是否存在“基础统计分析”、“分析特征”、“趋势变化分析”等维度进行分析;并输入其上下文  * 评分:    - 0分:否    - 35分:是* 关联分析维度  * 内容:内容中是否存在“因素相关性”、“交叉分析”、“维度组合分析”、“地理、时间、群体、流程、成本、收益、技术等等维度对比”等维度进行分析;并输入其上下文  * 评分:    - 0分:否    - 35分:是* 异常拐点维度  * 内容:内容中是否存在“数据异常点”、“特殊模式”、“变化拐点”等维度进行分析;并输入其上下文  * 评分:    - 0分:否    - 5分:是* 原因分析维度  * 内容:内容中是否存在“直接原因”、“根本原因”、“关联因素”等维度进行相关分析;并输入其上下文  * 评分:    - 0分:否    - 5分:是* 影响评估维度  * 内容:内容中是否存在“问题严重度”、“影响范围”、“持续时间”等维度进行相关分析;并输入其上下文  * 评分:    - 0分:否    - 5分:是* 机会识别维度  * 内容:内容中是否存在“改进空间”、“优化机会”、“创新点”等维度进行相关分析;并输入其上下文  * 评分:    - 0分:否    - 5分:是* 行动建议维度  * 内容:内容中是否存在“解决方案”、“实施路径”、“效果评估”等维度进行分析;并输入其上下文  * 评分:    - 0分:否    - 5分:是* 数理统计专业性  * 内容:是否使用了专业数理统计分析理论,如“平均数、标准差、标准误、变异系数率、均方、检验推断、相关、回归、聚类分析、判别分析、主成分分析、正交试验、模糊数学、灰色系统理论、CAGR(复合增长率)、泰尔指数”、“斯皮尔曼相关性”、“皮尔逊相关系数矩阵”等等;并说明使用了什么数理统计分析理论  * 评分:    - 0分:否    - 5分:是

(2)横向(多份报告对比评估)评估体系

### 异常对比维度* 主题对比一致性  * 内容:各份JSON数据之间的分析主题是否相似或统一;并输出对应文件中具体差异点  * 评分:    - 0分:否    - 25分:是* 结论对比一致性  * 内容:各份JSON数据之间的结论或建议是否相似或统一;并输出对应文件中具体差异点  * 评分:    - 0分:否    - 25分:是* 核心指标对比一致性  * 内容:各份JSON数据之间的“文字”类型的内容中,是否出现统计维度、计算方法、上下文含义完全相同的核心统计指标不一致;并输出对应文件中具体差异点  * 评分:    - 0分:是    - 25分:否* 图表对比一致性  * 内容:各份JSON数据之间若存在元信息、图表类型、统计维度、标题含义、所在章节含义完全相同的图表,是否存在数值统计不一致的情况;并输出对应文件中具体差异点  * 评分:    - 0分:是;或不存在相同图表    - 25分:否

2.4、评估结果

以下是针对同一个分析任务生成的5份报告,每份报告不仅包含评分结果,还附有具体评分依据的说明:

任务:分析下各省份、各单位不同时间的平均工资,并且如何为实现共同富裕,对工资进行优化。

以下是DataV-Note的部分测试结果展示,每个测试案例均基于5份独立生成的报告进行评分:

三、未来规划

3.1、接入自动化

当前我们仍需手动执行跨平台分析任务,并将结果导入评估系统。未来计划接入browser-user实现自动化大规模测试。

3.2、利用评估模型提高准确度

其次,我们计划将评估模型嵌入知识评估、RAG的环节中,以此增强数据分析模型的能力。

四、总结

通过本次评估系统搭建和日常分析报告的评估实践,我们发现尽管大模型展现出强大潜力,但在产品层面实现数据分析的精准把控仍面临诸多挑战。期待大家不吝赐教,共同探讨优化方案。

53AI,企业落地大模型首选服务商

产品:场景落地咨询+大模型应用平台+行业解决方案

承诺:免费POC验证,效果达标后再合作。零风险落地应用大模型,已交付160+中大型企业

联系我们

售前咨询
186 6662 7370
预约演示
185 8882 0121

微信扫码

添加专属顾问

回到顶部

加载中...

扫码咨询

扫码登录
登录即表示您同意《53AI网站服务协议》
服务协议

欢迎您使用【53AI 官方网站】(以下简称“本网站”或“我们”)。本《会员服务协议》(以下简称“本协议”)是您(以下简称“会员”或“用户”)与【深圳市博思协创网络科技有限公司】之间关于注册、登录及使用本网站会员服务所订立的法律协议。

在您注册或登录前,请务必审慎阅读、充分理解各条款内容,特别是免除或限制责任的条款、知识产权条款、争议解决条款等。此类条款将以加粗形式提示您注意。 当您通过微信公众号授权、手机验证码验证或其他方式成功登录本网站时,即视为您已完全理解并同意接受本协议的全部内容。

一、 定义

本网站:指由【深圳市博思协创网络科技有限公司】运营的,域名为【53ai.com】的网站及相关移动端页面。

会员服务:指本网站向注册会员提供的知识库文章查阅、内容检索及其他相关增值服务。

知识库内容:指本网站发布的包括但不限于文字、图表、数据、研究报告、行业分析等数字化内容资源。

二、 账号注册与登录

登录方式:本网站支持以下登录方式,您可根据实际情况选择:

微信公众号授权登录:您同意将您的微信OpenID信息授权给本网站,用于创建或关联会员账号。

手机验证码登录:您需提供真实有效的手机号码,并通过短信验证码完成身份验证与登录/注册。

账号安全:您的账号仅限您本人使用,禁止赠与、借用、租用、转让或售卖。因您保管不善导致的账号被盗、密码泄露等损失,由您自行承担。

实名认证:根据相关法律法规要求,我们可能要求您在特定功能下完成实名认证。如您拒绝提供,可能无法使用部分或全部服务。

未成年人保护:若您未满18周岁,请在法定监护人的陪同下阅读本协议,并在征得监护人同意后使用本服务。

三、 服务内容与规范

知识库查阅权限:会员登录后,有权按照其会员等级对应的权限范围,在线浏览、检索本网站知识库中的相关文章及内容。

服务变更:我们有权根据业务发展需要,调整、变更或终止部分服务内容,并将以网站公告、公众号消息等方式提前通知。

禁止行为:您在使用服务时不得实施以下行为:

利用技术手段批量爬取、下载、转存知识库内容;

将知识库内容用于商业目的或未经授权地向第三方传播;

干扰本网站正常运行或侵犯其他用户合法权益;

发布违法违规信息或从事违反公序良俗的活动。

四、 知识产权声明

权利归属:本网站知识库中的排版设计、软件代码等内容的知识产权均归【公司全称】或原权利人所有,受《中华人民共和国著作权法》等法律保护。

有限许可:本网站授予会员一项非独占、不可转让、不可转授权的普通许可,仅限于个人学习、研究之目的在线查阅知识库内容。

侵权追责:未经书面许可,任何单位或个人不得以任何形式复制、转载、摘编、镜像、汇编或以其他方式使用上述内容。一经发现,我们保留追究其法律责任的权利。

五、 个人信息保护

我们重视对您个人信息的保护。关于我们如何收集、使用、存储和保护您的个人信息,请单独阅读 《隐私政策》。

您通过微信公众号授权或手机号验证所提供的信息,我们将严格按照《个人信息保护法》的规定处理,仅用于身份识别、服务提供及安全验证等必要用途。

您可以随时通过网站设置或联系客服行使查阅、更正、删除个人信息及撤回授权同意的权利。

六、 免责声明

内容准确性:知识库内容仅供参考,不构成专业建议。我们不对其完整性、准确性、时效性作任何明示或暗示的保证,您应自行判断并承担使用风险。

不可抗力:因自然灾害、政策法规变化、网络故障、第三方平台接口异常(如微信接口维护、运营商短信通道故障)等不可抗力导致的服务中断或延迟,我们不承担违约责任。

第三方链接:本网站可能包含指向第三方网站的链接,该等网站的内容和服务不受我们控制,请您自行甄别风险。

七、 违约责任

如您违反本协议约定,我们有权视情节采取警告、限制功能、暂停服务、注销账号等措施,并保留要求赔偿损失的权利。

如因您的违约行为导致我们遭受行政处罚、第三方索赔或商誉损失,您应承担全部赔偿责任(包括但不限于罚款、赔偿金、律师费、公证费等)。

八、 法律适用与争议解决

本协议的订立、执行和解释均适用中华人民共和国大陆地区法律。

因本协议产生的或与本协议有关的任何争议,双方应友好协商解决;协商不成的,任何一方均可向【公司所在地】有管辖权的人民法院提起诉讼。

九、 其他

本协议构成双方就本服务达成的完整协议,取代此前任何口头或书面约定。

本协议任一条款被认定为无效或不可执行的,不影响其他条款的效力。

我们对本协议享有最终解释权,并在法律允许的范围内保留随时修改的权利。修改后的协议一经公布即生效,继续使用服务即视为同意修订内容。


已查阅