我要投稿

比起本地化AI部署，更重要的是应用层模型适配

发布日期：2025-04-30 20:51:16 浏览次数： 1686

作者：知识的铲子

微信搜一搜，关注“知识的铲子”

昨天下午，看到《南方都市报》一篇文章《“越问越懵”！广州一区两套政务AI，回答让他傻眼！最新回应》，针对一个法律问题和一个技术问题，说说自己的浅见。

一、新闻回顾：

首先说明，我仅就新闻内容及公开信息查询列举，仅代表个人学理意见~

新闻简述：广州市黄埔区政府官网首页同时存在“黄埔政务服务大模型智能体”（简称“智能体”）和“靠埔答”两套智能问答系统，但两者对同一问题的答复差异明显，甚至引用过期政策文件，导致用户陷入“该信谁”的困境。为了便于理解，我把文中记者的问题及系统答案以图示进行说明：

黄埔政数局回应南都报道：下架“靠埔答”

以上报道刊发后引发广泛关注，黄埔区政务服务和数据管理局（以下简称“黄埔区政数局”）高度重视，回应南都表态将直面问题、积极整改，推出系列优化举措，包括下架"靠埔答"系统并升级"智能体"服务功能等。

南都记者回访发现，广州市黄埔区政府网站页面上“靠埔答”系统现已下架，“智能体”新增政策缓冲期说明及人工服务补充渠道。

回应一：为避免两套系统“打架”，已下架“靠埔答”

南都报道指出，广州市黄埔区政府官网首页同时存在“黄埔政务服务大模型智能体”（简称“智能体”）和“靠埔答”两套智能问答系统，但两者对同一问题的答复差异明显，导致用户陷入“该信谁”的困境。

对此，黄埔区政数局解释，“智能体”是基于希姆九州大模型开发的应用，将大模型和政务服务深度融合，提供办事引导、一键预约、政策解答和智能咨询等服务，于2025年4月8日上线；“靠埔答”是基于知识图谱技术开发的FAQ（问与答）方式的平台，于2023年11月启用，在“智能体”正式上线后停止迭代更新。

“鉴于两者的技术架构、政策范畴存在差异”，该局称，考虑到“靠埔答”的政策问答仍有一定的参考价值，故在“智能体”上线初期暂时保留，并推进整合。为避免公众困扰，南都报道后，区政数局已于4月24日下午即时下架网页端“靠埔答”，保留“智能体”为官方唯一智能问答服务渠道。4月26日，南都记者回访发现“靠埔答”系统已下架。

4月26日，南都记者回访发现“靠埔答”系统已从黄埔区政府官网下架。

回应二：过期政策标注升级，增加“缓冲期”说明

对于报道中指出的“智能体”频繁引用过期政策问题，黄埔区政数局回应称，部分政策虽已过有效期，但仍处于执行缓冲期内，在此期间相关政策依然适用，“具体适用时间以实施部门解释为准”。为减少市民误解，将在“智能体”回复中增加显著标注：“本政策已过有效期，但仍处于执行缓冲期内，具体执行请以相关部门解释为准”。

南都记者登录“智能体”，留意到页面当中增加了不少说明，如在输入框上方明显处提示回答内容仅供参考。南都记者实测发现，咨询“公司想从佛山迁往黄埔，有何优惠政策”时，“智能体”不再引用过期政策，而是提示用户联系“政策兑现”窗口，并提供官方跳转链接。

回应三：交互体验受限因“安全考量” 将优化设计

针对用户反映的“智能体”无法连续输入、咨询流程中断等问题，黄埔区政数局回应称，因政务垂类大模型需确保严肃性，对话内容仅限于政务问答，在交互设计上只提供了“推荐事项”“返回上一级”和“重新输入”三种操作选项，在用户体验上可能存在个别用户咨询中断的情况，导致用户体验不如其它通用大模型。

对此，“我们将于近日优化交互设计，在操作选项之外继续提供对话框，供用户连续提问”，黄埔区政数局称，在保证安全的前提下，不断提升用户体验感，为群众提供更高效便捷的服务。

未来方向：人工服务兜底动态更新知识库

黄埔区政数局强调，继续保留人工咨询服务渠道，作为“智能体”的有力补充，确保复杂问题公众“问得清楚、办得顺利”。该局坦言，大模型技术存在局限性，与群众期望值尚有差距，未来将继续接受媒体和公众的监督，坚持问需于民，虚心听取群众的建议，充分吸纳用户的反馈，持续优化迭代大模型应用，完善政策知识库动态更新机制，全方位提升“智能体”的服务能力。

二、问题分析：

黄埔区政数局反应及时且能有效的解决问题，值得肯定，但是其中仍有两个问题，一个法律问题，一个技术问题。

（一）法律问题：

针对“回应二：过期政策标注升级，增加“缓冲期”说明”，个人认为其缺乏法律依据。

因本文篇幅有限，故不从《立法法》等法律、行政法规等上位法进行完整论述，根据《广东省行政规范性文件管理规定》（2020年7月29日广东省人民政府令第277号公布根据2024年1月16日广东省人民政府令第310号修订）（查询自广东省自然资源厅官网https://nr.gd.gov.cn/zwgknew/zcfg/flfggz/qt/content/post_4484364.html）第十二条规定：规范性文件一般应当规定有效期。规范性文件的有效期不得超过5年，暂行、试行的不得超过3年。有效期届满未按规定延期实施的，规范性文件自动失效。

而文中回复的“本政策已过有效期，但仍处于执行缓冲期内，具体执行请以相关部门解释为准”，笔者并非行政法律专家，尚不清楚所谓“执行缓冲期”的法律依据是什么，但即使存在缓冲期，也应该在对应条文中有所体现，如无，则与《广东省行政规范性文件管理规定》第十二条规定相悖。

《广州市黄埔区工业和信息化局、广州开发区经济和信息化局关于印发广州市黄埔区、广州开发区进一步支持专精特新企业高质量发展办法的通知》等地方规范性文件已经失效，在无明文规定存在“政策缓冲期”的情况下，回应二的该种回答可能存在瑕疵。

（二）技术问题：

笔者请教了技术专家宁晓彤老师（北京算法交易服务中心评审专家、京西智谷人工智能产业园专家顾问），在他的解释下，本文针对技术问题提出以下观点：

在AI大模型层出不断的今天，基础层本地化部署+应用层的适配，才能达到一个AI产品的基本要求，纵观本次新闻事件，我想暴露出来的技术问题，应该是“并未进行应用层的合理适配”，导致系统没有足够的具体知识库的储备，同时恐怕也缺乏长期记忆能力，这种效果，等同于直接把基础大模型接了个问答链接，因此答案不可能准确。

应用层的适配，不仅要进行具体知识库的“数据投喂”，还要进行记忆知识库的训练，这样昨天提的问题，今天系统还能记得，这样才能健康运行。否则就像人一样，博士毕业不假，毫无对应领域的专业技能经验，刚工作一个礼包，想指望他不出差错，也确实强人所难了。

宁老师指出：正常的应用层改造/适配，首先要选择基础大模型，如果是对话类的，deep/cloud/Llama等等都可以，确定基础大模型以后，需要对这个基础大模型进行减值，调参等等，然后进行数据投喂，业务流程固化，建立一个专属专业知识库，然后再建立一个记忆知识库，让这个大模型具有记忆，继而改造成具体的应用成品。