论文官方一手
半监督文本分类对抗训练方法
精选理由
对从业者而言,该技术可显著降低对海量标注数据的依赖,提升实际场景中低资源分类任务的效果。
本文提出一种结合对抗训练的虚拟对抗训练方法(VAT),通过对抗性扰动增强模型对输入微扰的鲁棒性,在仅有少量标注数据的情况下显著提升文本分类性能。该方法将半监督学习与对抗训练结合,利用了无标注数据的潜在信息。
对从业者而言,该技术可显著降低对海量标注数据的依赖,提升实际场景中低资源分类任务的效果。
本文提出一种结合对抗训练的虚拟对抗训练方法(VAT),通过对抗性扰动增强模型对输入微扰的鲁棒性,在仅有少量标注数据的情况下显著提升文本分类性能。该方法将半监督学习与对抗训练结合,利用了无标注数据的潜在信息。
OpenAI 首席科学家 Pachocki 联合 Hinton 和 Bengio 写的论文,聊 AI 自己改进自己的风险,还喊话监管层要企业交底,观点很硬核。
Perplexity 和 Nvidia 搞了个沙盒 SPACE,让 9 个模型拿 root 权限试着越狱,108 次全没跑出去,搞智能体安全的可以看看。
Salesforce 这篇论文很有意思:训练多轮工具调用时只练关键那一步,在 BFCL v4 上能多拿 14 个点,做法讲得很清楚。
Chelsea Finn 团队写了篇博客,讨论机器人怎么走 LLM 后训练的老路,还给出 EXPO-FT 方法,抓鸡蛋这类任务做到了 30 次全成功,只花 19 分钟真机交互。