端侧是指在终端设备（如手机、手表、机器人等）本地运行人工智能模型，无需依赖云端服务器的技术路径。它通过将计算能力下沉到设备端，实现低延迟、高隐私、离线可用等优势，正成为AI落地的重要趋势。
端侧近期进展
当前焦点与观察点
当前端侧AI的焦点集中在模型小型化与硬件匹配的双重挑战上。一方面，蒸馏、量化等技术不断压缩模型规模，使10亿参数以下模型能在手机、手表上运行；另一方面，专用芯片（如苹果M系列、理想汽车M100）的迭代为端侧AI提供算力保障。然而，端侧AI在机器人等复杂场景中仍受限于大模型的不成熟，具身智能尚未进入大规模应用。此外，各厂商正通过自研输入法、智能体终端等方式抢占入口，但隐私与用户习惯仍是普及的关键变量。未来，端侧AI与云端协同的混合架构或成主流，而物理世界多模态模型的成熟度将决定其落地速度。