semi-supervised(半监督学习)是机器学习的一类训练范式,介于纯监督学习与无监督学习之间:模型只利用少量有标注数据,同时尽可能挖掘大量无标注数据中的结构信息,从而在标注成本高昂的场景下提升性能。在标注稀缺但数据丰富的领域——医疗影像、语音识别、文本分类等——半监督方法一直是降低标注依赖的重要技术路线,近年来也与大模型、联邦学习等方向加速融合。
半监督学习的近期进展
当前焦点与观察点
从上述工作看,semi-supervised 的研究重心出现两个明显变化。其一,伪标签(pseudo-labeling)与一致性训练仍是主流技术底座,但应用场景从经典的图像分类扩展到联邦语音识别、呼吸音频、分子图(如 分子图集成共识方法)等垂直领域,验证性落地多于新范式提出。其二,半监督与隐私计算的结合成为热点:OpenAI 早期提出的 半监督知识迁移方法 通过教师-学生蒸馏保护私有训练数据,Apple 的联邦 ASR 方案延续了这一思路,标注稀缺与数据隐私双重约束下的训练方案正受到产业界重视。
值得关注的观察点包括:一是半监督思想向 LLM 训练管线渗透,例如 基于隐状态几何的半监督偏好优化 尝试减少对人工偏好标注的依赖;二是对抗训练等鲁棒性手段在半监督文本分类中的作用仍被持续探讨(参见 OpenAI 的 对抗训练文本分类研究);三是伪标签质量与模型校准问题尚未有统一解法,结合校准与鲁棒性测试的实践 显示工程实践中仍需多基线对照与系统性评估。总体而言,半监督学习不再是独立的研究孤岛,而是作为标注效率工具嵌入到大模型、联邦学习和智能体系统中,其价值评估越来越取决于具体落地场景中的标注成本与数据可得性。