为什么律所花大钱上的本地大模型，最后悄悄弃用？—— AI 本地部署之殇：算力只是柴火，你还得有锅

正所谓：其兴也勃焉，其亡也忽焉。

过去两年，只要在中大型律所待过，大概都听过类似的话：

“我们也要搞本地部署大模型。”
“要不要自研一个自己的系统？以后就是我们的护城河。”

预算批了（这一步已经打败了 99.99% 的律所😒）、服务器上了、系统也上线了，新闻稿也发出去了，看上去一切顺利。

但几个月后，后台统计往往只剩下一个冷冰冰的事实：真正会经常点开用的人寥寥无几，大部分律师依然困在邮箱、Word、微信和纸质卷宗里。

算力、模型、服务器，就像一堆堆码在机房里的新柴火；可律所既没有合适的“锅”，也没有像样的“菜谱”。

火很旺，但始终只是在烧空气。

而负责这些项目的人，其实心里最清楚：再烧下去，只会烧自己的信用。

这篇文章想借“柴火与锅”的比喻，基于我自己作为律师/律所 AI 部门负责人在一线观察落地（还有和管理合伙人们的反复解释），来讲清楚三件事：

为什么律师对本地部署欲罢不能；

为什么系统搭起来却没人用；

以及在这个阶段，更现实的一条路究竟是什么。

一、为何合伙人对“本地部署”这么上头：安全、合规和面子

1. 数据安全：把服务器“拽回楼里”的直觉

大部分律所谈本地部署，第一反应都是“安全”——尤其是涉及商密、刑辩、重大资产的案件。

一旦和“云”“外部平台”挂上钩，合伙人的本能反应就是不放心。

平台方可以反复解释加密、隔离、不用于训练，但对管理层来说，一句“服务器就在我们机房里”往往更有说服力。

本地部署更多是在满足这种直觉层面的安心感：东西在我这里，心里才踏实。

至于这个是不是一种幻觉，笔者已经在另一篇文章中吐槽过了，可以右转律师的AI保密焦虑：安全的幻觉。

2. 合规不确定：本地部署当成“兜底姿态”

监管对生成式 AI 的要求在不断细化，数据跨境、关键信息基础设施、个人信息保护都在风口浪尖。

很多律所不敢把所有筹码压在外部 SaaS 上，于是选择用本地部署表态：我们重视合规、愿意自己扛责任。

本地部署在这里更像是一种象征性的“防守动作”——先把姿态做出来，至于系统能做到什么，是另一层问题。

3. 品牌与面子：AI 成了公关话术的标配

还有一层动机更直接：品牌和面子。

对于头部律所来说，“完成 AI 本地部署”“拥有自研系统”，本身就是漂亮的宣传语，是论坛发言和年度报告里不可缺的一页。（从这个角度来看，某所的实践其实还是回本了😉）

用不用是一回事，“不能没有”是另一回事。

于是，项目在光鲜的叙事中启动，但系统能否真正进入办案流程，往往被放到了后面。

这些动机解释了“为什么要把柴火搬进来”。

真正的问题是：在搬柴之前，有没有想清楚自己要烧什么样的锅。

二、系统都建起来了，为何使用率依然感人？

很多律所的 AI 项目，都经历过类似的曲线：立项时群情激昂，上线时热闹非凡，培训结束后一地掌声。

再往后，曲线开始迅速下滑——账号还在，习惯没改。

1. 没有嵌进日常工作节奏

一线律师的时间被案子撕扯得支离破碎：客户沟通、写邮件、改合同、做检索、备开庭。任何需要“单独打开一个系统、重新学习一套逻辑”的事情，天然排在优先级靠后。

写邮件时还是 Outlook/网易邮箱，起草文书还是 Word，检索还是去数据库。

AI 系统常见的命运，是被丢进浏览器收藏夹深处，只在培训后的短暂兴奋期被点开几次，然后归于沉寂。

2. 功能离案件场景太远

不少系统在设计时过度迷恋“功能完备”：多模型、长文本、参数调优、插件扩展，一应俱全。但对律师来说，最关心的问题很简单：

• “这个案子的起诉状，能不能一键拉个底稿？”
• “这份证据目录，能不能自动帮我核一遍？”

如果首页只有一个巨大的对话框和几行技术参数，却看不到“起诉状助手”“庭审提纲”“证据目录校对”这类直戳场景的入口，在使用者心里，它就很难和手机上的任意一个 AI 聊天应用区分开来。

3. 学习成本和心理门槛被低估

律师习惯的协作方式是：先问人，再问系统。

微信群里@同事，邮件里 CC 前辈，这是熟悉的路径，也是带有人情味的路径（也许）。

一个界面复杂、术语密集的新系统，会天然抬高使用门槛。

如果要先啃一堆概念，再自己摸索按钮，很多人会迅速得出结论：这东西“适合技术控玩”，不适合自己。

于是，系统成为少数人的玩具，大多数人继续回到 Word 和微信里解决问题。

三、“有了自己的系统就万事大吉”的错觉

本地部署常常承载着一个隐含期待：只要我们有了自己的系统，哪怕一开始用得不多，慢慢总会形成护城河。

现实通常更冷静。

1. 技术进步远快于预算节奏

从立项到上线，很多系统花了半年到一年。等项目终于稳定运行，新一代通用大模型已经在推理能力、长文本处理和事实理解上迭代了一轮。

结果就是：所内自建系统还停留在“上一代体验”，外部通用模型已经悄悄变好。

律师用手机随手问一问，发现外面的回答更聪明、更自然，系统使用倾斜的方向很快就不言自明。

2. 维护和更新，比项目上线更难

本地部署不是“一锤子买卖”。

模型要不要更新，更新后工作流要不要改，知识库有没有跟上最新法条和实践——每一项都需要持续投入精力和预算。

很多律所在项目启动阶段拼尽全力，系统上线后却缺少长期维护的团队和机制。

知识越积越旧，能力越来越“保守”，但因为投入巨大，大家又舍不得推倒重来，本地系统就这样被困在一个不上不下的状态里。

3. 业务线差异，拖垮“一个平台吃全所”的幻想

劳动、人损、婚姻家事，看重的是高频、标准化；投行、并购、复杂争议，更在意细节和风险判断。

用一个统一的平台去服务所有业务线，意味着每一条线都只能被“浅尝辄止”地照顾一下。

久而久之，一线律师会形成非常直接的判断：这个系统“有点用，但离我的痛点差两步”。

在高压工作下，差两步往往就等于“懒得用”。

四、柴火与锅：律所真正该投的地方

算力和本地部署更像是后厨里的管线和炉灶，重要但不直接决定好不好吃。

对大部分律所来说，现在更值得花力气的，是把前台的“锅”和“菜谱”搞清楚：场景、知识、流程和激励。

1. 先把场景讲明白，而不是先选模型

在谈模型和服务器之前，先用最朴素的语言盘一遍业务：我们最重要的几条线里，哪类工作重复性最高、最耗时间、最容易出错？

把这些问题写成一张简洁的“场景清单”：

• 初次咨询时，希望 AI 帮我们先整理出“事实时间线 + 争议焦点”；
• 起诉 / 应诉前，希望它能拉出一版结构完整的底稿；
• 庭审后，希望笔录能自动转成“待办事项 + 补证清单”。

这张清单，就是锅的轮廓。有了它，后面的系统设计才不会虚空起楼。

2. 把知识摆上“书架”，再谈智能检索

如果案件材料还躺在纸质卷宗里，电子版只是一堆缺少 OCR 的 PDF，研究备忘录散落在邮箱和群文件里，那么不管模型多先进，看到的都是一片信息荒原。

与其焦虑“要不要自建模型”，不如先做几件看上去朴素的事：

统一文档命名和存放规则；

选一两条业务线，把典型案件的材料认真电子化、脱敏、结构化；

在此基础上，用最简单的检索加通用模型问答，先搭出一套“能找到东西”的知识问答系统。

这一步不炫技，但决定了后面所有“炫技”能不能落地。

3. 用工作流的视角设计 AI，而不是只给一个聊天框

如果一个系统永远只提供一个对话框，它对律师的意义就很有限。

真正能改变办案方式的，是一条条被重构的“小流程”。

从诉讼视角看，一个案子从立案到结案，节点是相对固定的：咨询、接案评估、材料准备、庭前和庭审、裁判结果和执行。

每一个节点，都可以问一句：这里能不能让 AI 先替我干一部分活？

当 AI 可以在固定节点自动拉取材料、生成草稿、写回案件系统，律师就不再只是“偶尔来聊两句”，而是被嵌入到案件推进的流水线里。

那时，柴火才真正烧到了锅底。

这一点，我自己开源的 Agent" data-itemshowtype="0" linktype="text" data-linktype="2">SuitAgent 框架算是做了一个小小的探索：
从咨询纪要到起诉状、证据目录，再到庭后待办，我尽量让每一个节点都能被 AI 接住。
也算是稍微把自己的诉讼工作流程，往前推了一小步。

4. 让愿意用 AI 的人，在制度上得到回报

工具好不好用，最终会反馈到文化里。

若所有 AI 项目的成本都算在部门头上，节省的时间和提升的质量却与个人评价和收入无关，那么律师对它的态度往往只有一句话：能不用就不用。

相反，如果在晋升和评估里，明确承认“善用 AI 提效”是加分项；

如果对愿意做试点、愿意提交优化建议的一线律师，给予时间和资源倾斜；

如果成功案例能在所内被看见并被记住，那么 AI 工具的使用率就不再只是技术问题，而是组织设计的一部分。

五、给律所 AI 部门的一条现实路线：少造引擎，多造车

如果你所在的律所有 AI 项目组，或者你正在负责相关工作，可以尝试把路线画得更简单一点：

第一步，只做一张高质量的“场景地图”。

用一两个月约谈不同业务线的一线律师，不聊宏大愿景，只聊：哪类文书最耗时间，哪类工作最容易重复，哪类案件最希望有“底稿模板”。

最后形成一份按“痛感 + 频率”排序的表。

第二步，从场景表里选三到五个，先做小工具。

基于成熟通用模型，做几件“上手就能用”的东西：起诉状 / 答辩状首稿助手、庭审提纲生成器、证据目录核对器。

不要一开始就想着覆盖全所，先让一线律师在真实案件里感受到“确实省了时间”。

第三步，顺手把知识库打基础。

在做这些小工具的过程中，选定一条主打业务线，把这一条线上的典型案件材料认真做一次电子化、脱敏和结构化。

与其在 PPT 上宣称“全所知识一体化”，不如先把一条线做到别人羡慕的程度。

第四步，用数据和故事决定下一步投什么。

看后台谁在用，用得多的人在用它干什么；请他们写几句真话，哪怕是吐槽。

根据这些使用数据和故事，决定在哪些方向加码，哪些项目及时止损。

结语：别急着烧更多的柴，先看看你有没有锅

回到标题——“ AI 本地部署之殇：算力只是柴火，你还得有锅”。

本地部署和算力集群并不是错的选择，但对当下大多数律所而言，它们不该是故事的主角。

真正决定成败的，是另一组更朴素的问题：

我们的办案流程是不是已经被拆解得足够清楚，知道哪里可以让 AI 介入；

我们的知识是不是已经被摆上了书架，随时可以被检索和调用；

我们有没有做出几个简单好用、用完确实能省时间的小工具；

那些愿意尝试的人，在制度上有没有得到实实在在的回报。

当这些“锅”和“菜谱”逐步成型，算力和本地部署自然会找到自己的位置。

那时，AI 不再是挂在墙上的一块牌子，而是一口每天都在案件里咕嘟作响的锅

——你不用再解释它的价值，因为一桌桌端出来的菜，已经帮你说服了所有人。

如果你身边有律师对所谓的本地部署乐此不疲，你可以把这篇文章转给 TA——不一定要完全同意我的观点，但至少可以少交一点“智商税”，而且这个智商税是百万元级别的。