35B 的模型离线跑在 iPhone 上只占 1.8GB 内存,这压缩水平真少见,做端侧 AI 的朋友可以看看他们的开源方案。
#端侧AI
Microsoft 和 Apple 都在抢 PC 端 AI 的位置,这篇讲清楚了两家的竞争态势,关注电脑上跑 AI 的可以看看。
苹果把每档设备能本地跑多大的模型直接列成表了,从 iPhone 的 140 亿到 Mac Studio 集群的 1.6 万亿,选机器跑模型前先看这张表。
PyTorch 的 ExecuTorch 黑客松开放报名了,10 月中在旧金山,现场有骁龙笔记本和 Galaxy 手机可以上手部署模型,做端侧 AI 的可以去组队。
现场实拍微软新 Surface 的端侧 AI 演示,跑在 Snapdragon X2 Plus 上,交互不用打字输入框,看看到底体验如何。
一家叫 Alpenglow Tek 的公司在做超低功耗 NPU 芯片,想让耳机手表这类小电池设备也能常开语音和视觉识别,做硬件的可以看看。
Qualcomm 新旗舰芯片来了,2nm 制程加 5GHz 主频的手机 CPU 还是头一回,主打端侧跑智能体,关注手机性能的可以看看。
高通在骁龙峰会上晒出社区数据:Insiders 2300 万、Creators 4.05 亿,还能看到它把叙事转向端侧智能体 AI。
vivo 用户注意了,你的手机可能很快就能在通话时自动识别诈骗,像 Pixel 和三星那样实时提醒,X500 系列或首发。
华为给 Mate 80/70 推送了新系统,能直接看端侧 AI 模型版本和参数,还有 3D 壁纸和户外探索模式,挺实用。
WAIC上大家达成共识:端侧AI才是未来。Om AI联汇还牵头搞了个物理AI协同倡议,想加速机器人和自动驾驶落地,可以看看具体怎么搞。
后摩智能在 WAIC 2026 发了 M50 Inside 终端,专为端侧 AI 算力优化,让本地大模型在设备上离线运行。
市场报告出炉,支持端侧AI的智能手表卖爆了,苹果占了九成。健康监测功能翻倍增长,想买智能手表可以关注这个趋势。
三星新UFS 5.0存储速度翻倍,读写达10.8GB/s和9.5GB/s,带宽提升两倍,功耗还降40%。端侧AI跑大模型更流畅,手机厂商的下一代旗舰有福了。
苹果首次提高 AI 功能的内存门槛,标准版用户被划出高端体验区——频繁用听写记笔记的 iPhone 17 用户会直接感知差异,建议点开确认自己是否受影响。