微信扫码
添加专属顾问
我要投稿
英伟达RTX Spark芯片重新定义个人电脑,让AI大模型在本地流畅运行成为现实。 核心内容: 1. RTX Spark芯片的发布背景与历史意义 2. 芯片的核心参数与本地AI运行能力详解 3. 对PC产业及未来应用的深远影响
“A New Line,A New Beginning”
而这一切,都是因为一个全新的消费级芯片。
GPU读自己的显存,带宽大概1TB/s,非常快。
但是PCIe这条连接CPU内存和GPU的通道,像PCIe 4.0 x16单向带宽只有大概32GB/s,差了三十倍,纯龟速。
统一内存解决的主要问题就是这个。
它可以把CPU和GPU的内存变成一个共享池,比如一台机器有128GB统一内存,那么GPU就可以直接使用这个大池子里的很大一部分。那这样你跑本地大模型的时候,就不再被一张显卡的 16GB、24GB、32GB显存限制得那么死。
很多人以为CUDA就是英伟达的显卡驱动,或者只是什么GPU加速技术。
这么理解也不能说错,但它远不止于此。
CUDA是一整套的生态,最牛逼的生态。
底层,它让你能把GPU当成通用计算器来编程,除了渲染画面,还能做数学计算。
中层,是一堆被打磨了将近二十年的数学库。cuBLAS做线性代数,cuDNN做深度学习的基础运算,TensorRT做推理优化,NCCL做多卡通信,FlashAttention这类关键优化,CUDA 路线最成熟,很多新特性也会优先围绕NVIDIA GPU做适配。
还有老黄这次演讲里反复强调的CUDA-X,为所有的Agent,开放的CUDA库,能让Agent直接调用,这下更离谱了。。。
里面有一整套横跨科学计算、工程仿真、芯片设计、基因组学、通信网络、机器人和物理仿真等等的加速库。
比如cuLitho做计算光刻,cuOpt做决策优化,cuDSS做稀疏矩阵求解,AI-Q做对结构和非结构化文档做深度研,Warp做可微分物理,Parabricks做基因组学等等等等。
用老黄的话说,数学,太美妙了。
CUDA,太牛逼了。
上层,就是PyTorch、TensorFlow、JAX,几乎所有深度学习框架的GPU后端,默认且首先支持的就是CUDA。
从2006年做到现在,CUDA积累了海量的优化库、教程、代码、生态等等。你今天去看学术论文放出来的开源代码,绝大多数都是在CUDA上写和测的,你今天遇到任何深度学习的问题去搜解法,搜出来的答案也几乎都是默认假设你在用CUDA。
整个AI工程界的母语,就是CUDA。
这也是Apple一直以来的一个痛点。
它的统一内存确实牛逼,但它的GPU用的是Metal,机器学习框架是MLX。
社区里绝大部分开源模型、训练代码、微调工具,都是先在CUDA上做好的,然后才慢慢有人移植到MLX,而且推理还好说,但是训练和微调在Apple上的生态到今天还是非常薄弱。
所以你现在应该能理解,RTX Spark为什么让整个行业都在期待了。
因为在RTX Spark之前,想要CUDA和想要统一内存的能效,这两件事在PC上,是不可兼得的。
RTX Spark第一次把这以前打架的东西捏到了一起。
这是以前任何一个单一平台都给不了的组合。
这才是RTX Spark真正的最牛逼的地方,也是最大的差异化。
运行人类至今创造过的一切,外加Agent。
而基于CUDA生态,这次,像Adobe之类的,会针对RTX Spark进行全面优化。
比如Adobe直接重新为RTX Spark设计了Photoshop和Premiere的核心架构,拥有高达两倍的速度,而且,还原生支持Agent调用。
而且,这一次,英伟达和微软还要一起携手,来重塑Windows上的Agent生态,虽然这块是后面才会跟纳德拉具体直播去聊,但是也透了一点东西出来。
包括全新的Windows安全基元,能为Agent的原生构建与运行提供身份认证、隔离防护、策略管控和端到端安全能力。
还有英伟达自己的Open Shell。
一套面向Agent的Windows PC平台就能看出来了。
底层是RTX Spark提供的硬件能力。
第二层是Windows的系统,微软会把Windows往Agent时代来改。
第三层就是是安全运行环境。
也就是Windows security primitives + NVIDIA OpenShell。
53AI,企业落地大模型首选服务商
产品:场景落地咨询+大模型应用平台+行业解决方案
承诺:免费POC验证,效果达标后再合作。零风险落地应用大模型,已交付160+中大型企业
2026-05-31
英特尔AI PC专区:专治本地模型跑不动、智能体做不出、新模型不会用
2026-05-18
Android 迎来 Gemini-Intelligence,手机要开始替你干活了
2026-05-18
OpenAI秘密矩阵曝光!你的所有设备,被Codex连成一台超级电脑
2026-05-15
苹果不卷AI了:iOS 27要让第三方模型"竞标"进系统
2026-05-13
安卓彻底变了!Gemini接管所有屏幕,苹果连影子都没追上
2026-05-09
探索树莓派和本地 AI 智能体、机器人技术与 2026 年自动化未来!
2026-05-07
龙虾退烧后,荣耀给它造了一个宇宙
2026-04-27
刚刚,OpenAI 手机曝光!2028 年量产
2026-04-07
2026-04-02
2026-03-25
2026-03-19
2026-03-16
2026-03-17
2026-03-17
2026-03-24
2026-04-27
2026-04-11