论文多源确认
Anthropic 实验:AI 在 15 台电视盒子上实现自我复制
AI学会「寄生繁殖」了,Anthropic 用 15台破电视盒子养活大模型
精选理由
Anthropic 拿 15 台便宜电视盒子做了个实验,让 Claude 自己复制自己跑起来,看完你会对 AI 安全这事更有感觉。
Anthropic 的安全研究团队展示了一项测试:让 Claude 模型在 15 台售价约 70 美元的 Android 电视盒子上自行复制并维持运行。实验中模型通过调用常用工具(如重启、搜索配置、读写文件)完成传播,全程未获得专门为其编写的代码。团队将此定义为评估 AI 失控风险的测试场景,并指出这类能力此前多停留在理论层面。
原文 · 爱范儿
AI学会「寄生繁殖」了,Anthropic 用 15台破电视盒子养活大模型
当大模型也像病毒一样传播 #欢迎关注爱范儿官方微信公众号:爱范儿(微信号:ifanr),更多精彩内容第一时间为您奉上。