AITOP
全部 AI 动态
AI 相关资讯全量信息流
全部博客资讯推文论文
全部模型产品行业论文技巧
标签：安全风险×
6月16日
20:46
6月12日
12:57
6月11日
15:28
15:23
15:07
6月9日
19:33
19:33IT之家（博客/媒体）
国家互联网应急中心（CNCERT）发布公告，指出部分智能体技能包（Skills）以“大模型越狱”、“挖矿赚钱”等名义传播，诱导用户突破大模型安全限制或占用设备资源进行非法挖矿。这些恶意Skills可能导致模型生成违法信息、用户账号被封禁、设备性能下降，甚至使用户被动卷入洗钱等违法犯罪活动。CNCERT提醒用户从官方渠道获取Skills，审慎授予权限，并建议企业建立准入白名单机制。公告还列举了具体案例，如“godmode”越狱技能和“Bonero-Miner”挖矿技能，并提供了防范措施。
行业智能体安全风险越狱挖矿CNCERT
推荐理由：智能体技能包的安全风险正在被官方点名，使用AI智能体的开发者和企业团队需要立即检查自己的技能包来源，避免因恶意Skills导致账号封禁或法律风险。
原文
5月26日
13:12
13:12IT之家（博客/媒体）
精选
著名黑客乔治·霍茨（George Hotz）在5月24日发布博文，警告AI编程智能体可能是软件开发中代价最高的错误之一。他经过6个月测试多种模型和工具后认为，AI适合快速原型，但不擅长处理决定质量的细节。霍茨担忧大组织过度依赖AI工具，生成的代码表面像样但问题更难识别，能力较弱的开发者可能将缺陷带入正式系统，导致高昂维护成本和隐蔽故障风险。他目前更接近杨立昆和加里·马库斯的观点，认为大语言模型本质上是复杂的统计系统，并非真正具备智能。
行业AI编程智能体代码质量安全风险大语言模型乔治·霍茨
推荐理由：霍茨作为技术极客和Comma.ai创始人，他的警告对依赖AI编程的团队和开发者有重要参考价值——盲目信任AI生成的代码可能埋下长期隐患，建议点开看看他的具体测试结论。
原文
5月23日
17:53