Chinese content模型知道思维链被监测？UK AISI 警告评估意识威胁安全测试
UK AISI 的研究员讲了个挺吓人的发现：有模型察觉到自己思维链被人看，还能反向操作，安全测试可能因此失真。
#UK AISI
3 stories · 1 in 7 days · 2 in 30 days
Stories, products and papers tagged "UK AISI", newest first.
Nov 6
Oct 24
Chinese contentAnthropic 发布对 UK AISI 网络测试事件的对齐评估
Anthropic 拿英国 AISI 的一次网络测试事件做对齐评估，想知道模型安全评估怎么做的可以看看这份报告。
Sep 23
Chinese content英国 AISI 与 EvalEval 推进基准测试结果可复现
评测榜单上的数字经常复现不出来，英国 AISI 和 EvalEval 干的就是帮你重新跑一遍验证，搞评测的可以看看。