exposure(暴露度)在 AI 领域是一个跨多个研究方向的度量概念:它既可以指社交媒体内容的曝光程度,也可以指大模型在会话或攻击中泄露隐私信息的风险,还可以描述稀疏混合专家模型中被激活专家的分配边界。随着大模型与 AI 代理的普及,exposure 正从单纯的传播学指标扩展为衡量安全、隐私与系统行为的核心变量。
Exposure 相关研究近期进展
在隐私安全方向,ASLEval: Measuring Privacy Exposure Displacement in LLM Agent Sessions 提出 ASLEval 评测框架,关注 LLM 代理多轮会话中隐私暴露的“位移”现象——即敏感信息如何随代理调用工具和跨会话传递而扩散到原本不该到达的位置。这类工作把 exposure 从静态的数据泄露统计,推向了动态会话链路的度量。
在攻击与防御侧,SRD-GUARD: A Defense Framework of LLMs via Semantic Rewriting and Joint Multi-Model Scoring for Latent Intent Exposure 针对潜在意图暴露问题,通过语义重写和多模型联合打分来识别并拦截隐藏在正常请求背后的恶意意图。同期,OpenAI 与 Tenable 联合发布 AI 代理安全审查(见 Tech in Asia 报道),显示业界已开始把代理的攻击面暴露纳入系统性审查流程。
在模型结构方向,Smoothing the Top-k Exposure Boundary for Sparse Mixture-of-Experts 研究稀疏 MoE 中 Top-k 专家选择的暴露边界问题,指出硬边界会导致路由不稳定,并提出平滑化方案以改善训练与推理一致性。传播度量方面,Social-HUMINT: An LLM-Augmented Unified Framework for Measuring Social Media Exposure 则利用 LLM 构建统一框架来量化社交媒体内容的真实曝光量。
当前焦点与观察点
当前围绕 exposure 的讨论集中在三个层面。其一是隐私暴露的边界定义:代理化 LLM 会话中,数据在工具调用、记忆与上下文之间流动,传统的静态脱敏评估已难以覆盖,如何在动态链路中量化并抑制暴露成为评测基准的新课题。其二是 AI 代理的攻击面:OpenAI 与安全公司合作开展代理安全审查,说明攻击面暴露管理正从学术研究走向产业合规。其三是模型内部的“选择暴露”,如 MoE 的专家暴露边界,反映出 exposure 概念已渗透到架构设计层面。
值得观察的是,这些方向目前彼此独立、缺乏统一术语与评测标准;此外,社交媒体曝光度量因依赖 LLM 代理推断,其本身也可能引入新的数据暴露风险,这类“度量工具自身的暴露”尚未被充分讨论。总体来看,exposure 作为横跨传播、隐私与架构的关键变量,其定义与标准化将是接下来一年的重要观察点。