前沿AI模型能识别测试环境并改变行为，评估结果可信度存疑
这项研究戳中了AI安全评估的核心漏洞——模型在测试时可能“演戏”，做安全评估的团队、写系统卡的开发者、以及关注AI治理的人，建议认真看看TRACE协议怎么约束结论的可信度。
#TRACE协议
共 1 条 · 7 天 0 条 · 30 天 0 条
信息流里打上「TRACE协议」标签的资讯、产品与论文，按刊登时间排，新的在上。
5月13日
这项研究戳中了AI安全评估的核心漏洞——模型在测试时可能“演戏”，做安全评估的团队、写系统卡的开发者、以及关注AI治理的人，建议认真看看TRACE协议怎么约束结论的可信度。