Industry71°

阿里、腾讯、月之暗面旗舰模型收紧网络攻击能力,AI 技术出口管制征求意见

中国 AI 旗舰模型集体收紧网络攻击能力,加强 AI 技术出口管制

Why we picked it

Qwen、Kimi 这些你常用的国产模型,现在训练时都主动砍掉了攻击性网络能力,代价是漏洞利用基准掉了约 10 分。结合商务部要把恶意代码生成技术列入出口管制,搞安全和部署开源模型的都该看看。

彭博社 11 月 17 日报道,阿里 Qwen4-Max、腾讯 Hy4 正式版、月之暗面 Kimi K3.1 Pro 等新一代旗舰模型普遍过滤了训练数据中的网络攻击材料,保留漏洞检测等防御能力。Qwen4-Max 暂未公开模型权重,而 Qwen 系列此前是全球下载量最高的开放权重模型家族之一;月之暗面披露过滤后模型在内部漏洞利用基准测试中得分 81.0%,低于未过滤版本的 90.5%。

Body

技术机制上,各家做法相似:腾讯在 Hy4 正式版发布前将漏洞利用生成相关数据从训练流程剔除;月之暗面在 10 月 23 日发布的 Kimi K3.1 Pro 中,于后训练的两个阶段移除网络攻击相关材料;智谱 8 月开放 GLM-5.3 权重前做了安全审查并向有关部门通报漏洞。背景是 CrowdStrike 10 月底报告披露,VAPOR PANDA 组织使用 DeepSeek 模型配合 ARTEX 框架,在 11 天内对至少 14 个国家的 200 余家机构发起入侵。

政策层面,商务部与科学技术部 10 月 16 日就修订《中国禁止出口限制出口技术目录》公开征求意见,拟将 AI 驱动的恶意代码生成与变异技术等纳入管制,涉及 AI 领域共 23 项技术。腾讯首席 AI 科学家姚顺雨认为模型网络能力及即将到来的生物能力将触及实际危害阈值;Fangcun AI 创始人李晓健指出剔除攻击性材料是成本与效果的平衡,目前没有方法能完全消除风险。

Original · IT之家

中国 AI 旗舰模型集体收紧网络攻击能力,加强 AI 技术出口管制

IT之家 11 月 17 日消息,彭博社今日报道称,阿里、腾讯、月之暗面最新发布的新一代模型普遍限制了网络进攻能力,同时强化了漏洞检测与防御功能。 彭博社指出,阿里最新旗舰模型 Qwen4-Max 刻意过滤了训练数据中可用于网络攻击的材料,保留了对漏洞检测等防御场景有用的能力。而且该版本暂未公开模型权重,用户无法自行下载部署无审查版本。IT之家注意到,该系列模型此前深受开源社区青睐,阿里 Qwen 系列曾是全球下载量最高的开放权重模型家族之一。 除阿里外,腾讯在 Hy4 正式版发布之前已明确限制了模型的网络安全功能,并将漏洞利用生成相关数据从训练流程中剔除。 月之暗面 10 月 23 日宣布 Kimi K3.1 Pro 时,同样从后训练的两个阶段移除了网络攻击相关材料。据该公司披露,过滤后的模型在内部漏洞利用基准测试中得分为 81.0%,低于未过滤版本的 90.5%。 智谱则在 8 月开放 GLM-5.3 权重之前进行了安全审查,并向有关部门通报了系统漏洞。 作为背景,CrowdStrike 在 10 月底发布的报告中披露,一个名为 VAPOR PANDA 的组织使用 DeepSeek 模型配合 ARTEX 框架,在 11 天窗口内针对至少 14 个国家的 200 余家机构发起入侵。 腾讯首席 AI 科学家姚顺雨 11 月 7 日在香港出席科学会议时表示,模型的网络能力以及“很快到来的生物能力”将触及可能造成实际危害的阈值。 AI 安全公司 Fangcun AI 创始人李晓健对彭博社表示,从训练中剔除攻击性材料是在成本与效果之间的一种平衡,但“目前没有方法能完全消除模型的风险”。 政策方面,今年 10 月 16 日,商务部联合科学技术部发布公告,就修订《中国禁止出口限制出口技术目录》公开征求意见,拟将 AI 驱动的恶意代码生成与变异技术等纳入出口管制或限制范围,涉及人工智能领域共 23 项技术。11 月初,国家发展改革委官员表示正在加快推出面向 AI 开发者的安全标准与伦理准则,并强调在开发过程中嵌入安全措施。 相关阅读: 《 欧盟网络安全局警告:超市冰箱遭黑客攻击后,家用电器可能是下一个目标 》 《 360、阿里云等首批 18 家网络产品安全漏洞收集平台签署自律公约 》

Industry Coordinates & Source Verification

This report is categorized under AITOP's "Industry" desk, focusing on China's AI industry and domestic foundation model ecosystem. Within our cross-regional analytical framework, it directly maps to AI regulation, compliance frameworks, and sovereign compute policy and US-China foundation model benchmarks and commercialization comparison. Key entities and technical topics under continuous tracking include Qwen, Kimi, GLM, DeepSeek.

Source attribution: curated from IT之家.