Filtering(过滤)在 AI 领域通常指对数据、候选结果或模型行为进行筛选的一类技术手段:在训练前剔除低质量或有害样本,在推理时对检索结果、生成内容做精确率与召回率控制,或在安全层面对高危动作进行拦截。随着大模型训练数据规模膨胀和智能体应用落地,Filtering 正从简单的规则筛选演化为可学习、可配置、可与隐私保护结合的核心工程环节。
Filtering 的近期进展
在数据侧,过滤方法正变得更精细。NHNM:把正样本变成难负样本,改进指令式检索训练 提出将正样本转化为难负样本,通过更严苛的样本筛选改进指令式检索模型的训练效果;迭代自过滤数据选择方法用于视觉语言模型训练 则展示了多轮自我过滤在视觉语言模型数据选择中的价值,说明过滤机制本身可以被模型学习。
在系统与工程侧,RAFT: Redundancy-Aware Input Filtering for Temporal Graph Neural Network Training 关注时序图神经网络训练中的冗余输入过滤,而 Weaviate Query Agent搜索模式新增召回率与精确率可配置 则代表检索基础设施的一个趋势:让开发者直接配置召回率与精确率的平衡,把过滤从黑盒变成可调参数。
安全与隐私维度的 Filtering
安全领域对过滤的讨论出现了新的争议点。Filtering Harmful Actions Isn't Enough: Phantom Transfer in Agentic SDF 指出,单纯过滤智能体的有害动作并不足够,被过滤的行为仍可能产生“幽灵迁移”效应,提示安全过滤需要考虑更间接的影响路径。CSF:运动生成器的上下文安全过滤 则将过滤机制引入运动生成任务,结合上下文判断输出是否安全。
隐私保护方向也出现了新的过滤范式。Propose-Filter-Release: Scaling Noise to Typical Sensitivity via Private Filtering 提出在满足差分隐私的前提下,通过“提议—过滤—发布”流程扩展可发布数据的规模,把过滤与隐私预算管理结合了起来。
当前焦点与观察点
综合来看,Filtering 目前呈现三个值得关注的走向:其一,过滤正从“训练前的数据清洗”扩展为覆盖检索、生成、智能体动作的运行时机制;其二,研究者开始质疑单纯过滤的充分性——被滤掉的信息是否真的被隔离,仍是开放问题;其三,训练数据本身的治理压力在上升,机器生成内容大量涌入公开语料后,高质量过滤既关系到模型质量,也关系到学术与内容生态的健康,这一争议预计会在后续研究中持续发酵。