华中科技大学与阿里巴巴共建 AI 前沿安全研究中心,首批启动 9 个课题
华中科技大学与阿里巴巴联合成立 AI 前沿安全研究中心,课题覆盖大模型安全攻防等
阿里和华中科技大学搞了个安全联合研究中心,首批 9 个课题已经开跑。比较有意思的是智能体操作手机时的伪造屏幕攻击研究,还有用密态计算做数据协同不透传的方案。做智能体产品和数据合规的团队可以盯一下后续成果。
华中科技大学与阿里巴巴集团于 11 月 18 日签署合作协议,成立聚焦 AI 安全的“智能攻防与前沿安全联合研究中心”,首批启动 9 个课题。
课题覆盖大模型安全攻防、智能体与终端安全、智能化系统与软件安全、数据协同与隐私保护四大方向。官方公布的案例包括“图像对抗样本与终端威胁研判”课题,针对 AI 智能体替用户操作手机时屏幕画面被伪造、操作被恶意诱导等风险,研究识别与防护技术;“隐私保护关系图谱”课题则探索通过密态计算实现数据“可用不可见、协同不透传”,应用于购物、地图、外卖等多应用切换场景的个人信息保护。
大模型安全攻防方向与智能体终端安全方向的组合,显示该中心将研究重点放在模型侧与落地应用侧两条线上,密态计算等技术路径对需要在应用间做数据协同的企业有直接参考价值。
华中科技大学与阿里巴巴联合成立 AI 前沿安全研究中心,课题覆盖大模型安全攻防等
IT之家 11 月 21 日消息,华中科技大学与阿里巴巴集团于 11 月 18 日签署合作协议,聚焦 AI 安全共建“智能攻防与前沿安全联合研究中心”,首批启动 9 个课题。 IT之家获悉,联合研究中心首批启动的 9 个课题,覆盖 大模型安全攻防、智能体与终端安全、智能化系统与软件安全、数据协同与隐私保护 四大方向,以下为官方公开的案例: 当 AI 智能体开始替用户操作手机、完成复杂任务时,屏幕画面可能被伪造,操作过程也可能受到恶意诱导。对此,联合研究中心设立“图像对抗样本与终端威胁研判”课题,探索相关安全风险的识别与防护技术。 当用户在购物、地图、外卖等应用之间切换时,既希望享受数据互通带来的便捷,又担心个人信息在协同过程中泄露。针对这一问题,“隐私保护关系图谱”课题将探索通过密态计算等技术,实现数据“可用不可见、协同不透传”,让便利与隐私保护不再成为单选题。
This report is categorized under AITOP's "Industry" desk, focusing on China's AI industry and domestic foundation model ecosystem. Within our cross-regional analytical framework, it directly maps to AI developer toolchains, coding agents, and engineering workflows. Key entities and technical topics under continuous tracking include Alibaba, agent safety, privacy.
Source attribution: curated from IT之家.