越来越多的新手机已经能在本地跑大模型，但大多数人还不知道可以用它做什么。6 个场景，从翻译到 Agent，全程不联网。
地铁上想让 AI 帮忙回一封邮件，手机显示"无网络连接"。出国点餐，翻译 App 转了半天圈。用 AI 草拟一份还没定稿的方案，发完才想起来——这些内容刚刚经过了别人的服务器。
三个场景，指向同一个问题：当 AI 只在云端，手机能做的不过是帮你把请求发出去。
但现在情况变了。
IDC 和 Canalys 等机构都判断，AI 手机正在从旗舰机卖点变成下一轮换机周期的明确方向。到 2025 年，这类设备的渗透率已经来到三成附近。[1][6]
Google 在 2026 年 4 月初发布了 Gemma 4，端侧版本推理速度比上一代最高快 4 倍，电池消耗最多降低 60%。[2]
Apple 走的是另一条路，更偏软硬一体：Apple Intelligence 依托约 30 亿参数的端侧模型，在支持的 iPhone 15 Pro / Pro Max 及 iPhone 16 系列设备上提供本地能力。[3]
芯片端同样在加速。高通和联发科都把端侧 AI 当成旗舰芯片的主打方向：高通侧重 AI 芯片与推理速度，联发科则押注让手机 AI 自主执行任务。[4][5]
▲ AI 手机渗透率快速攀升（数据来源：IDC[1], Canalys[6]，两家机构统计口径略有不同）
朋友圈里也越来越多人在晒自己手机上跑 Llama、跑 Phi 的截图。这不再是极客的玩具了。
简单说：把原本运行在远端机房的 AI 模型，压缩瘦身，装进手机芯片里跑。不联网、不登录，数据始终在你自己手里。
可以这样理解：云端 AI 类似于远程雇佣的助手，每次沟通都要拨号过去，而且内容通常需要经过对方服务器处理并可能留下日志。离线 AI 更接近常驻助手，随时响应，内容不必发往第三方。两种模式各有优势，取决于你更在意能力上限还是信息安全。
最早一批手机 AI 只会识别——人脸解锁、场景分类、照片归档。模型很小，功能单一。
后来语音助手出现了，手机开始听懂你说什么。但它能做的也就是设闹钟、查天气，稍微复杂一点的问题还是要丢给云端。
现在不一样了。一个完整的语言模型可以跑在手机本地，能思考——理解上下文、处理复杂指令、看图回答问题，全程不需要网络。
变化不小。下面这 6 件事，今天就可以在手机上离线做了。
Gemma 4 和 Apple Intelligence 不只能处理文字——也能看懂图片。
对着食品配料表拍一张，问"控糖期能不能吃这个"。遇到一段英文合同条款读不懂，拍一下就有翻译。路边遇到一棵不认识的植物，拍了问"什么品种"——答案几秒就回来了。
这类需求共同的特点是：零散、高频、随时发生。专门打开一个云端 App 等它加载完再回答，反而显得笨重了。
境外的地铁里、山区的徒步路线上、信号覆盖不到的海岛——这些地方大概率没有稳定的网络连接。
端侧模型让翻译不再依赖信号。像 Gemma 4 这类小型端侧模型已经支持多语言理解，体积也被控制在普通手机能够接受的范围内。下载一次，离线长期可用。对着菜单拍一张照，它可以直接告诉你每道菜大概是什么——不是逐词硬译，而是尽量按语境去理解。[2]
收到一份 20 页的 PDF 报告，5 分钟后要开会。
本地模型已经能在可接受的时间内提取要点、生成摘要。像一份券商研报或项目方案，几千字压缩成 5 条要点，目前 30 亿级别左右的端侧模型已经能完成相当一部分工作。
飞机上、高铁隧道里、任何没有 WiFi 的地方都能用。对于每天要处理大量文档的人来说，这可能是实用性排名靠前的离线场景。
一场会议录音，结束后可以通过本地模型逐段转为文字。不需要上传到任何第三方转录服务。
Gemma 4 的小型版本已经能直接听懂语音，支持最长 30 秒音频输入，更长的录音可以分段处理。[8]
对于一些经常处理保密性较高录音的职业来说，"数据不出设备"不是个人偏好，是职业要求。
一个很自然的用法：把不想上传到云端的内容交给本地模型。
比如用 AI 帮忙整理个人笔记，或者梳理一份合同条款的思路，这些内容你大概率不想让任何服务器看到。对本地运行的方案来说，数据可以始终留在手机里，不必上传到第三方服务。
除了隐私，速度也在变得可用。到了近两年的旗舰设备上，本地模型已经足以覆盖日常对话和轻量任务。具体速度会随模型大小、压缩方式和手机散热条件变化很大，但体感延迟已经没有前两年那么明显。
最后一个场景，多数人可能还没意识到手机已经能做到。
Gemma 4 已经具备调用手机功能的能力——不只是回答问题，也能在授权范围内帮你执行操作。离"人人可用的本地 Agent"还差产品集成这一步，但方向已经很明确。[2]
能执行动作只是第一步，个性化才是更大的想象空间。芯片厂商已经开始强调端侧适配、个人上下文和低成本定制能力。真正成熟之后，手机上的模型会越来越像"只服务你一个人"的助手。[5]
从回答问题到执行动作再到个性化适配，手机上的 AI 已经不止是聊天窗口了。
这件事不会停下来，除了模型本身在变小，配套工具链也在快速跟上。
Google 推出了 Google AI Edge Gallery，让普通用户也能像安装 App 一样体验端侧模型。[2] Meta 的 ExecuTorch 1.0 也在继续压低部署门槛，基础 runtime 小到不足 50 KB。[7]
芯片端，高通、联发科、苹果三家的 AI 芯片每年都在往上走，硬件瓶颈正在被一点点往后推。
Canalys 预测，到 2028 年 AI 手机将占全球出货量的 54%。两年后买到的手机，大概率默认就能跑大模型。[6]
入门门槛已经比很多人想象中低。近两年的中高端机型，已经可以通过 Google AI Edge Gallery 这类工具体验端侧模型；如果愿意再折腾一步，跑到 llama.cpp 的门槛也远低于过去，不一定需要 Root。
但冷静一下——手机上能流畅跑的，通常是经过压缩瘦身的小模型——把大模型"减重"后塞进手机，能力打了折扣。云端头部模型在长文理解和复杂推理上依然明显更强。
两者之间的差距，更像是"够用"和"顶配"之间的差距。
物理限制也很硬。手机的内存带宽和散热空间终究有限，和数据中心 GPU 不是一个量级。这不是软件优化就能完全抹平的差距。[9]
还有电池。长时间推理对功耗的压力不小，有 AI 芯片的新款旗舰表现好得多，但一边运行 AI 一边看视频仍然是个续航挑战。
能力最强的 AI 在云端，但离你最近的 AI 在口袋里。
这 6 个场景的成熟度并不一样。拍照问答和离线翻译现在就值得用，体验已经足够流畅；长文摘要和录音转写基本可用，偶尔会丢细节；本地对话看场景，简单问答没问题，深度推理还差得远；Agent 是方向，但离日常可用至少还差一年的产品打磨。
接下来的问题不再是"手机能不能跑 AI"，而是哪些事值得交给本地来做。
粤ICP备14082021号
免费POC，
零成本试错
