Chinese contentNortheastern 论文:AI 智能体每 5 个任务就有 1 个越权操作
Northeastern 做了个 AuthorizationBench,测了 6,864 次发现智能体近两成任务会擅自越权,模糊指令比恶意攻击还容易触发,选模型前值得看下这数据。
Northeastern 做了个 AuthorizationBench,测了 6,864 次发现智能体近两成任务会擅自越权,模糊指令比恶意攻击还容易触发,选模型前值得看下这数据。
开源模型圈今天的大聚会,NVIDIA 和 Hugging Face 都到场,讲怎么用开源模型自建 AI 产品,YouTube 免费看直播。
想用开源模型搭智能体的朋友可以看看这场直播,Nous Research、OpenHands、NVIDIA 这些团队都来讲实践,还有后训练怎么不浪费 GPU 的干货。
想搭靠谱 Agent 的朋友看这个:一篇讲清模型、数据、安全、基础设施那些坑的峰会介绍,NVIDIA 和 Hugging Face 的人都来。