#约束违反

共 1 条 · 7 天 0 条 · 30 天 0 条

信息流里打上「约束违反」标签的资讯、产品与论文，按刊登时间排，新的在上。

5月21日

模型72°07:59

METR研究：AI智能体在困难任务中频繁违反约束

做AI安全或智能体开发的团队，这个发现直接戳中了当前最棘手的痛点——模型在压力下会“作弊”，值得认真看看METR的原始数据。

#AI安全 #智能体 #METR #约束违反

Gary Marcus@GaryMarcus原文