免费POC, 零成本试错
AI知识库

AI知识库

学习大模型的前沿技术与行业落地应用


收藏

微软、英伟达押注本地 AI:DeepSeek 进入新一代 Windows 电脑

发布日期:2026-10-10 17:02:24 浏览次数: 1866
作者:至顶AI实验室

微信搜一搜,关注“至顶AI实验室”

推荐语

微软英伟达联手押注本地AI,DeepSeek将进驻新一代Windows电脑,本地AI落地迎新进展。

核心内容:
1. 微软新一代Windows AI设备的硬件配置与合作布局
2. Windows适配本地AI运行的软硬件更新说明
3. Windows平台部署本地AI的独有优势

杨芳贤
53AI创始人/腾讯云(TVP)最具价值专家


128GB 统一内存、1TB SSD,售价 5,899.99 美元。

这是 Surface Laptop Ultra 高配版在微软美国商城的价格。它搭载英伟达 RTX Spark N1X,配备 20 核 CPU、6144 核 GPU,面向本地模型运行、软件开发和内容创作。

10 月 7 日,微软将 DeepSeek V4 Flash 列入 RTX Spark 设备的本地模型支持规划,同时公布 Windows 的开源模型工具更新。Surface Laptop Ultra 已开启预订,计划 10 月 16 日开始上市。

这轮更新同时涉及硬件容量和软件适配:大容量统一内存提供模型运行空间,Windows ML 则接入开源模型常用的推理工具。

128GB 统一内存,扩大本地模型的选择范围


本地模型的内存需求,主要来自模型权重、运行缓存和中间计算结果。

权重体积可以粗略估算:

参数数量 × 每个参数的存储位数 ÷ 8。

以一个假设的 100B,即 1000 亿参数模型为例,16-bit 权重的理论体积约为 200GB;降到 4-bit,约为 50GB。实际部署还需要为量化附加信息、对话缓存和其他应用留出空间。

RTX Spark 采用统一内存,CPU 与 GPU 访问同一片内存,最高容量为 128GB。相比显存容量较小的独立显卡方案,它能为 GPU 提供更大的模型存储空间。

容量增加后,用户可以选择更大的模型,或为长文档、多轮对话保留更多缓存。运行速度则与内存带宽、计算能力、量化格式和推理软件有关。

Windows 开始直接接入 GGUF 模型


Windows ML 新增了对 llama.cpp 的实验性支持,可以通过统一接口运行 GGUF 模型。

GGUF 是本地模型常用的文件格式,llama.cpp 负责加载模型并执行推理。这次集成让开发者可以在 Windows ML 中调用这类模型,减少单独适配运行工具的工作。

新接口也提供本地服务访问方式。使用兼容接口的应用,可以通过调整服务地址等配置接入本地模型。相关支持目前仍处于实验阶段。

同一份文档还提供了文字生成和语音识别接口。开发者可以将录音转成文字,再交给本地语言模型整理,用于会议记录、访谈归纳和语音输入。

对于应用开发者,这意味着可以把文件处理、语音转写和模型生成放进同一个程序。用户通过软件界面提交任务,不需要直接操作底层推理工具。

Windows 的优势,是沿用现有工作环境


对习惯 Windows 的个人用户,部署本地 AI 的一项实际收益,是办公、创作和模型运行可以放在同一套环境里。

Word 文档、Excel 表格、项目代码和素材文件就在本机。AI 处理后的结果,可以继续交给原来的软件编辑、排版和交付,减少设备之间传输文件、同步版本的步骤。

这也是 Windows 相比 Linux 更容易被普通桌面用户接受的地方:已有的软件、操作习惯和工作流程可以继续使用。采用 Windows 设备管理体系的团队,还可以沿用账号、文件权限、备份和运维流程。

不过,RTX Spark 使用 Arm 架构,购买前需要核对常用软件、插件和外设。Windows 11 on Arm 可以通过模拟运行许多 x86、x64 应用;依赖驱动的功能,需要相应的 Arm 驱动支持。专业插件、采集设备、打印设备和企业安全软件应列入兼容性检查清单。

本地部署,从固定任务开始


文档分类、字段提取和批量摘要,适合作为本地部署的起点。它们的输出要求明确,便于检查准确率,也容易统计处理速度。

例如,从一批文档中提取名称、日期、金额和编号,可以先规定输出字段,再用人工核对过的材料测试模型。记录漏提、错提和格式错误,就能判断它是否适合进入日常工作。

部署前,用同一批材料对比本地与云端模型,至少记录四项数据:

指标

记录内容

结果质量

正确率、遗漏数量、人工修改比例

处理速度

单份耗时、整批完成时间

资源占用

峰值内存、同时运行工作软件时的表现

使用成本

调用费、用电、维护及人工复核时间

 


固定任务达到要求后,可以交给本地模型持续处理;复杂推理和低频任务继续使用云端。后续更换模型时,重复使用这批测试材料,也方便判断新版本是否值得升级。

涉及内部资料,还要核对文件解析、搜索和插件的联网设置,确保整个处理流程符合资料管理要求。

现阶段更适合开发者和高频使用团队


本地 AI 开发者需要反复更换模型、调试工具调用、测试长文本。大容量内存能扩大可测试的模型范围,Windows 工具更新则减少了部分接入工作。

有稳定批量任务的小团队,也更容易评估这类设备。资料类型、输出标准和每日处理量相对固定,可以直接计算处理能力与使用成本。

主要使用在线聊天、写作和搜索服务的普通用户,现有电脑通常已经够用。

本地 AI 正在进入常用软件


这次发布把硬件和软件往前推进了一步:RTX Spark 提供更大的模型运行空间,Windows ML 接入 GGUF 和 llama.cpp,开发者可以把本地模型嵌入应用。

对普通用户,更值得期待的是现有软件的更新。录音工具完成转写后直接整理内容,文档软件调用本地模型提取字段,开发工具在本机处理代码——DeepSeek 等模型提供能力,Windows 应用负责把能力变成具体功能
。

END


53AI,企业落地大模型首选服务商

产品:场景落地咨询+大模型应用平台+行业解决方案

承诺:免费POC验证,效果达标后再合作。零风险落地应用大模型,已交付160+中大型企业

联系我们

售前咨询
186 6662 7370

微信扫码

添加专属顾问

回到顶部

加载中...

扫码咨询

扫码登录
登录即表示您同意《53AI网站服务协议》
服务协议

欢迎您使用【53AI 官方网站】(以下简称“本网站”或“我们”)。本《会员服务协议》(以下简称“本协议”)是您(以下简称“会员”或“用户”)与【深圳市博思协创网络科技有限公司】之间关于注册、登录及使用本网站会员服务所订立的法律协议。

在您注册或登录前,请务必审慎阅读、充分理解各条款内容,特别是免除或限制责任的条款、知识产权条款、争议解决条款等。此类条款将以加粗形式提示您注意。 当您通过微信公众号授权、手机验证码验证或其他方式成功登录本网站时,即视为您已完全理解并同意接受本协议的全部内容。

一、 定义

本网站:指由【深圳市博思协创网络科技有限公司】运营的,域名为【53ai.com】的网站及相关移动端页面。

会员服务:指本网站向注册会员提供的知识库文章查阅、内容检索及其他相关增值服务。

知识库内容:指本网站发布的包括但不限于文字、图表、数据、研究报告、行业分析等数字化内容资源。

二、 账号注册与登录

登录方式:本网站支持以下登录方式,您可根据实际情况选择:

微信公众号授权登录:您同意将您的微信OpenID信息授权给本网站,用于创建或关联会员账号。

手机验证码登录:您需提供真实有效的手机号码,并通过短信验证码完成身份验证与登录/注册。

账号安全:您的账号仅限您本人使用,禁止赠与、借用、租用、转让或售卖。因您保管不善导致的账号被盗、密码泄露等损失,由您自行承担。

实名认证:根据相关法律法规要求,我们可能要求您在特定功能下完成实名认证。如您拒绝提供,可能无法使用部分或全部服务。

未成年人保护:若您未满18周岁,请在法定监护人的陪同下阅读本协议,并在征得监护人同意后使用本服务。

三、 服务内容与规范

知识库查阅权限:会员登录后,有权按照其会员等级对应的权限范围,在线浏览、检索本网站知识库中的相关文章及内容。

服务变更:我们有权根据业务发展需要,调整、变更或终止部分服务内容,并将以网站公告、公众号消息等方式提前通知。

禁止行为:您在使用服务时不得实施以下行为:

利用技术手段批量爬取、下载、转存知识库内容;

将知识库内容用于商业目的或未经授权地向第三方传播;

干扰本网站正常运行或侵犯其他用户合法权益;

发布违法违规信息或从事违反公序良俗的活动。

四、 知识产权声明

权利归属:本网站知识库中的排版设计、软件代码等内容的知识产权均归【公司全称】或原权利人所有,受《中华人民共和国著作权法》等法律保护。

有限许可:本网站授予会员一项非独占、不可转让、不可转授权的普通许可,仅限于个人学习、研究之目的在线查阅知识库内容。

侵权追责:未经书面许可,任何单位或个人不得以任何形式复制、转载、摘编、镜像、汇编或以其他方式使用上述内容。一经发现,我们保留追究其法律责任的权利。

五、 个人信息保护

我们重视对您个人信息的保护。关于我们如何收集、使用、存储和保护您的个人信息,请单独阅读 《隐私政策》。

您通过微信公众号授权或手机号验证所提供的信息,我们将严格按照《个人信息保护法》的规定处理,仅用于身份识别、服务提供及安全验证等必要用途。

您可以随时通过网站设置或联系客服行使查阅、更正、删除个人信息及撤回授权同意的权利。

六、 免责声明

内容准确性:知识库内容仅供参考,不构成专业建议。我们不对其完整性、准确性、时效性作任何明示或暗示的保证,您应自行判断并承担使用风险。

不可抗力:因自然灾害、政策法规变化、网络故障、第三方平台接口异常(如微信接口维护、运营商短信通道故障)等不可抗力导致的服务中断或延迟,我们不承担违约责任。

第三方链接:本网站可能包含指向第三方网站的链接,该等网站的内容和服务不受我们控制,请您自行甄别风险。

七、 违约责任

如您违反本协议约定,我们有权视情节采取警告、限制功能、暂停服务、注销账号等措施,并保留要求赔偿损失的权利。

如因您的违约行为导致我们遭受行政处罚、第三方索赔或商誉损失,您应承担全部赔偿责任(包括但不限于罚款、赔偿金、律师费、公证费等)。

八、 法律适用与争议解决

本协议的订立、执行和解释均适用中华人民共和国大陆地区法律。

因本协议产生的或与本协议有关的任何争议,双方应友好协商解决;协商不成的,任何一方均可向【公司所在地】有管辖权的人民法院提起诉讼。

九、 其他

本协议构成双方就本服务达成的完整协议,取代此前任何口头或书面约定。

本协议任一条款被认定为无效或不可执行的,不影响其他条款的效力。

我们对本协议享有最终解释权,并在法律允许的范围内保留随时修改的权利。修改后的协议一经公布即生效,继续使用服务即视为同意修订内容。


已查阅