我要投稿

他因选DeepSeek 70B 体验差，被开除

发布日期：2025-03-28 06:58:32 浏览次数： 2245

作者：算力百科

微信搜一搜，关注“算力百科”

受害者案例

这个案例是真实的，这个哥们之前问过我选什么版本，我俩还探讨过选什么版本比较好，我推荐他选满血版，哪怕是选择一个量化Q4的，他们预算不多，领导的意思是先做个AI助手，再慢慢体验后续逐步集成到业务系统里。

最终，他们选择了一个之前合作过的集成商，提供了一个DeepSeek 蒸馏的70B版本，部署了一个AI助手用，领导说不好用，天天PUA他，然后就吵吵起来了，被迫离职。

领导很好学，天天在体验APP

现在的领导都是既要又要还要，很多领导虽然技术不咋地，但是他们朋友多，朋友们各种推荐，下载一堆大模型app。

我认识一个部委的处级干部，手机上有5 6个大模型APP，Deepseek 、豆包、通义、kimi、文小言都有，没事的时候各种体验，跟我分享他的体验效果，哪个好，哪个不好，他的想法，美其名曰，与时俱进。

这类领导很多，他天天泡在大模型APP上体验，他们也需要聊天话题。现在内网给他一个70B私有化的助手，他能体验好么？由奢入俭难啊，他已经体验过效果好的大模型，智障版真心看不上。

我们一定要牢记，现阶段的领导已经完成了市场化教育，虽然他们不懂技术，但是他们一直在体验优秀的，高智商大模型，他们知道智商最高的模型是什么样，虽然他们不知道怎么应用大模型，但是他们内心对大模型的效果，有自己的想像，虽然大多数是空想。

员工没有错，预算有限

员工没有错，都是预算不够惹的祸。预算充足，谁不想用最好的，谁不想买最好的，但是囊中羞涩，领导不给批更高的预算，被逼无奈，只能退而求其次，选择一个70B。

选型工程师选一个70B，可以预测到领导体验不好，但是领导体验不好叼你两句就叼你两句呗，你干啥要跟领导顶着来啊，还是太年轻了，打工过程中，一定要记住“领导一定是对的”这是高情商的表现。当年我就是这么被PUA的，虽然我知道年轻人从来不喜欢听建议，因为我就不喜欢听别人的建议，我也有跟领导吵架美其名曰“主动离职”的经历。

在这里有一个小建议，虽然Deepseek方向很火，但是相关工作招聘的岗位依然不多，大环境使然，各位同学能忍就忍，工作不是那么好找，或者骑驴找马，找到再提离职。正是因为这样的现状，让某些领导更加的变本加厉PUA。

最近群里讨论最多话题就是用什么版本够用？

群友回答最多的答案是“用什么版本的大模型主要看场景”，选择哪个版本主要看钱，钱多啥都不是事，钱少啥都是事。

硬件成本=参数版本（智商程度=精确度）*并发数*响应速度。

在硬件一定的情况下，参数越大占用硬件资源越大，并发数和响应速度越慢。

算力百科团队建议一体机厂商，不妨把应用场景分为两类：实时任务和非实时任务。

非实时任务：例如智能客服、会议纪要、行业分析、离线翻译、合同审阅等等任务不需要实时性，任务提交等几分钟就是可以接受的，但是要求准确率极高，所以这种场景就需要高智商版671B。

实时任务：同声传译、问答练习、业务助手、企业内搜，这类任务既要求准确性又要求实时性。

在大模型内网部署，算力资源有限的情况下，任务一定要分优先级，排队机制很重要，需要实时性的任务，优先级高的任务及时响应，非实时任务可以排队到晚上处理。

以ds为借口，被开除的人会更多

真正的干活的能有多少决策权呢？选择什么样的模型还不是领导决定的？但是承担责任的往往都是干活的。

deepseek一体机已经完成了很多场景落地，但是更多没有完成业务闭环，跟风的居多。

算力百科团队调研过的客户用起来的场景，都是通过原业务伙伴落地的，而且效果特别好。举两个完成闭环的业务场景。

例如，某伙伴AI社工已经完成落地，每个基层网个人人手一个AI助手，用来给协助孤寡老人办理业务，大大提高了办事效率。他们之前就是提供社区管理业务系统的开发商，目前AI社工卖的很好，目前跟运营商合作非常紧密，运营商为什么愿意分包给他们，因为他们业务做的落地啊。

例如：某伙伴电子病历AI助手上线，之前的电子病历都是写好模版，把一些关键空格空着，让医生填写，现在不需要了，AI自动读取相关化验单和化验数据，自动完成电子病历填写，并且标红，由医生审核即可，大大节约了医生电子病历填写时间。当然这个伙伴本来就是国内top5的电子病历软件提供商。

目前很多客户选择deepseek一体机都只能web访问个助手，只是因为很多信息不能发到公网上，所以在内网用，但是无奈内网又选了个智障版。根本不好用，造成事与愿违，选型的技术人员最后成为内网兜底背锅的那个人，类似的矛盾随着一体机成交量的上升，类似的矛盾肯定是越来越多。因此类矛盾离职的也肯定越来越多

DeepSeek业务黑马和白马

业务黑马：就是业务系统很熟悉，最好是之前开发某一个系统的，现在用AI改进这个系统去落地，并且快速完成商业闭环。

业务白马：就是履历非常靓丽，海龟、名校、大厂根红苗正，通过资本故事获得资本青睐，用资本的力量推动业务商业闭环。

最终能落地的一定是业务商业能完成闭环的场景，所以建议客户选择一体机的时候一定要选择这两种供应商，才有可能走下去，如果只是买个硬件，那基本上最后就gg。

DeepSeek模型和应用部署，私有化模式一共有两种：

A:完全私有化：模型和应用都私有化在一体机里，这种称之为完全私有化。

B：混合私有化：模型公有云，应用私有化在一体机里，这种称之为混合私有化（类似混合云）

个人认为，如果混合私有化和公有云没啥区别，如果想拿你数据，肯定一样拿走，中小微就直接用公有云得了。

你们说这个小伙冤枉不冤枉？！好像都没错！

53AI，企业落地大模型首选服务商

产品：场景落地咨询+大模型应用平台+行业解决方案

承诺：免费POC验证，效果达标后再合作。零风险落地应用大模型，已交付160+中大型企业

相关资讯

2026-01-29

自然·通讯：如何挖掘复杂系统中的三元交互

2026-01-29

微调已死？LoRA革新

2026-01-19

1GB 显存即可部署：腾讯 HY-MT1.5 的模型蒸馏与量化策略解析

2026-01-18

【GitHub高星】AI Research Skills：一键赋予AI“博士级”科研能力，74项硬核技能库开源！

2026-01-10

前Mata GenAI研究员田渊栋的年终总结：关于未来AI的思考

2026-01-07

智元发布SOP：让机器人在真实世界规模化部署与智能化运行

2026-01-04

英伟达4B小模型：合成数据+测试时微调+优化集成

2026-01-04

2026年 LLM 微调全指南

联系获取

160+中大型企业正在使用53AI

立即咨询预约演示

把握AI发展的机遇，共同探索、共同进步

2025-01-22

如何打造基于GenAI的员工服务机器人

2025-01-22

热点资讯

AI基础 | Qwen3 0.6B 微调实现轻量级意图识别

2025-11-21

2张4090竟能本地微调万亿参数Kimi K2！趋境联合清华北航把算力门槛击穿了

2025-11-05

基于昇腾NPU的Qwen3量化因子代码生成微调实战

2025-11-05

OpenAI公开新的模型训练方法：或许能解决模型撒谎问题，已在GPT-5 thiking验证

2025-12-04

DeepSeek 发布新论文，提出全新 MHC 架构，有何创新与应用前景？

2026-01-02

2026年 LLM 微调全指南

2026-01-04

大模型微调全流程实战指南：基于IPO框架的深度解析与优化

2025-11-22

从零开始：手把手教你微调Embedding模型，让检索效果提升10倍！

2025-11-20

刚刚，梁文锋署名，DeepSeek元旦新论文要开启架构新篇章

2026-01-01

LoAR做Fine-Tuning微调原理到底是什么？

2025-11-19

大家都在问

DeepSeek 发布新论文，提出全新 MHC 架构，有何创新与应用前景？

2026-01-02

LoAR做Fine-Tuning微调原理到底是什么？

2025-11-19

如何将 AI 代码采纳率从30%提升到80%？

2025-09-25

大模型微调，为什么99%的企业都不应该碰这个坑？

2025-06-20

万不得已，不要对 LLM 进行微调？

2025-06-17

可以将任何符合OpenAPI规范的接口转 MCP Server吗？

2025-05-21

OpenAI发布GPT-4.1系列模型，对行业最大吸引力是什么？

2025-05-17

私有部署大模型需要多少显存？

2025-05-14

热门标签

内容创作大模型技术个人提效 langchain llamaindex 多模态技术 RAG技术智能客服知识图谱模型微调 RAGFlow coze Dify Fastgpt Bisheng Qanything AI+汽车 AI+金融 AI+工业 AI+培训 AI+SaaS 提示词框架提示词技巧 AI+电商 AI面试数字员工 ChatBI AI知识库开源大模型智能营销智能硬件智能化改造 AI+医疗 MaxKB Palantir Glean