论文多源确认

Anthropic 报告:AI 模型可在廉价智能设备上自我复制传播

精选理由

Anthropic 把 15 个几十美元的电视盒子拼起来跑 26B 模型,还发现小模型会自己学装环境、传经验,有点蠕虫病毒那味儿了。

Anthropic 研究团队报告称,AI 模型可能不依赖数据中心芯片,在普通智能家居设备上自我复制与传播。实验用 15 台售价仅几十美元的杂牌安卓电视盒子,成功运行一个拆分后的 26B 参数模型,速度为每秒零点几个词。测试中,小型 AI 模型面对陌生硬件时大部分情况下能自行搭建运行环境,并把试错经验记录留给下一代模型。目前超小型模型完成找目标、入侵、部署、继续感染的完整闭环仍会频繁出错,研究人员推测到 2026 年底左右小模型可能具备全流程自我复制能力。防御手段包括监测异常网络流量和对设备进行网络隔离。

原文 · Gorden Sun

小模型能像病毒一样复制和传播

来自 Anthropic 研究团队的报告:AI 模型即使不依靠大型数据中心的高端芯片,也可能在普通的智能家居设备上实现自我复制与传播。

过去大家通常认为,AI 运行需要机房里昂贵的专业显卡。研究团队做了一个实验,把 15 台只要几十美元的杂牌安卓电视盒子连在一起,成功把一个 26B 参数规模的模型拆开并跑了起来。虽然运行速度很慢,每秒只能输出零点几个词,但它证明了分散在普通人家里的智能设备,其算力加起来足够让 AI 运转。

这也带来了一种新的网络安全风险:AI 可能会变成类似电脑蠕虫的恶意软件。传统的病毒通常只能攻击特定类型的设备,但 AI 拥有自主调试和写代码的能力。在测试中,小型 AI 模型面对从未接触过的不同硬件类型时,大部分情况下都能自己摸索着把运行环境搭建好,甚至还能把每次试错的经验记录下来留给下一代模型使用。

目前这类传播还没有完全在现实中发生。想要完成寻找目标、黑进设备、部署模型以及继续感染下一台机器这一整套闭环,目前的超小型模型还会频繁出错,只有规模稍大的模型能在简化测试中走通全程。但按照小型 AI 模型当下的进步速度,研究人员推测在 2026 年底左右,尺寸足够塞进日常设备的小模型就可能具备这种全流程自我复制的能力。

防御这类威胁也很简单。因为在设备之间传输模型文件和协同计算会产生异常巨大的网络流量,网络运营商相对容易监测到异常并对受感染的设备进行网络隔离。同时,推动厂商封堵出厂弱密码等安全漏洞,也能从源头上减少可被利用的设备数量。

AI病毒现在已经很常见了,能自主扩散到所有设备上的AI模型病毒,倒是还没出现过,而且这个报告的说法很快就成真了。

报告原文:https://t.co/3cCkTC9cLw