小米AICube亮相：O3、O100、D100三芯，本地运行120B+3B双模型

发布日期：2026-08-25 19:27:19 浏览次数： 2045

作者：至顶AI实验室

微信搜一搜，关注“至顶AI实验室”

最近的本地AI主机，基本都在解决同一个问题：怎么把更大的模型装进一台桌面设备里。

苹果依靠统一内存，NVIDIA推出了DGXSpark和RTXSpark，AMD则用RyzenAIMax系列，把大容量内存交给CPU和GPU共同使用。

小米现在也加入了这个市场。

在最新举行的玄戒芯片技术沟通会上，小米展示了XiaomiAICubePrototype。这台工程原型机同时搭载玄戒O3、O100和D100三颗芯片，本地部署120B和3B两个模型，支持快慢系统切换，整机持续性能释放达到150W。

目前，小米没有公布模型名称、运行速度和上市计划。但AICube真正值得关注的，也不是120B这个数字，而是它把大小模型和三种不同定位的芯片放进了同一套本地AI系统里。

AICube目前已经公开的核心信息。根据小米公开参数整理

三颗芯片分别负责什么？

玄戒O3是一颗面向手机和平板的旗舰SoC，拥有10核CPU、16核G2-UltraNXGPU和200TOPSNPU。

玄戒O100是专用AI加速芯片。它采用6nm制程和3D晶圆级堆叠封装，把高速内存与NPU计算层垂直连接，近存计算带宽达到1.22TB/s。

玄戒D100原本面向智能驾驶，采用3nm制程，拥有20核CPU和16核NPU，最高支持160GB统一内存。小米表示，D100可以在本地部署最高200B参数模型。

从定位看，O3适合运行系统和处理低功耗任务；O100负责加速模型推理；D100提供大模型需要的算力和内存容量。小米没有公布三颗芯片在AICube中的具体连接方式，现在还不能确定120B模型主要运行在D100上，还是由O100和D100共同处理。

玄戒O3、O100、D100的公开参数与定位。根据小米公开参数整理

为什么同时部署120B和3B模型？

120B模型和3B模型的参数规模相差40倍。

3B模型占用空间小、响应速度快，适合意图识别、简单问答和基础指令。120B模型能力更强，但每次运行需要读取更多权重，也会占用更多内存。

如果用户只是让AI打开文件、调节设备或者查询简单信息，调用120B模型没有必要。遇到代码分析、长文档处理或者多步骤任务时，再切换到120B模型更合理。

这套设计比单纯把模型做大更实际。3B模型处理高频任务，120B模型按需介入，大模型不用一直占用资源，小模型也不用承担超出能力的复杂任务。AICube真正想解决的，是一台设备如何根据任务复杂度分配算力。小米目前只确认了双模型部署和快慢系统切换，具体调度逻辑仍未公布。

120B与3B双模型可能承担的任务分工。具体调度逻辑尚未公开

O100为什么强调1.22TB/s带宽？

本地大模型生成内容时，需要不断从内存中读取模型权重。模型越大，每生成一个Token，需要搬运的数据就越多。内存带宽不够，计算单元只能等待数据。

O100采用近存计算设计，通过3D堆叠缩短内存与NPU之间的距离。这项设计瞄准的就是大模型推理时的数据读取问题。

O100近存计算与1.22TB/s带宽的作用。根据小米公开参数整理

小米公布的近存计算带宽为1.22TB/s。不过，这个数字不能直接换算成Token/s。模型速度还与芯片算力、量化精度、软件框架和算子优化有关；如果120B模型需要在O100与D100之间交换数据，芯片间通信也会影响结果。

120B模型需要多大内存？

按照4-bit量化计算，120B模型的权重理论上需要大约60GB空间。真正运行时，还要给操作系统、推理框架、上下文和KV Cache预留内存。如果120B和3B模型需要同时常驻，内存需求还会继续增加。

D100最高支持160GB统一内存，容量上足以容纳量化后的120B模型，并给上下文留下空间。

这是不是一台值得购买的AI主机

AICube采用航天铝一体成型机身，外壳上有33874个CNC蜂窝散热孔，持续性能释放达到150W。它目前仍然是一台Prototype工程原型机。

小米没有公布上市时间，也没有说明它是否会作为独立产品销售。玄戒O100和D100要到2027年才会正式商用，AICube短时间内大概率不会进入消费市场。

现在最缺的不是更多宣传参数，而是120B和3B模型的名称、量化精度、实际Token/s、整机内存，以及三颗芯片之间的连接方式。在这些信息公布之前，120B只能说它可以装下多大的模型，还不能代表这台机器跑得有多快。是否支持第三方开放模型和主流推理框架，也会直接决定它能不能成为一台真正可用的本地AI主机。