Tiny

近年来，边缘AI模型变得极其小巧高效，使得在手机等终端设备上直接运行复杂任务成为可能。近期，Tiny在AI推理和小型化硬件方面均有值得关注的进展：一是咳嗽分类模型CoughSense，它基于Whisper架构，可运行在资源受限设备上，用于区分五类呼吸疾病咳嗽；二是Google发布Tiny Language Models（TLMs），其中270M参数的Gemma变体能在Pixel 7手机上实现每秒2000词的推理速度，推动了边缘智能体的实用化；此外，华擎推出Taichi十周年纪念主板与视觉暂留水冷，虽然不属于AI领域，但也体现了硬件小型化与高性能的融合趋势。当前焦点在于：在保持模型准确性的前提下，如何进一步压缩参数量并优化推理效率，使得更复杂的AI应用能脱离云端运行。未来，Tiny模型可能会在医疗诊断、物联网、可穿戴设备等场景中大规模部署。