Code as a Weapon：恶意代码请求的共识标注提示库
编程模型的安全风险比通用模型高一个量级——返回的代码可以直接运行成武器。做AI安全评估的团队终于有了经过共识验证的测试集，建议用这个库来检验自家模型的拒绝边界。
#恶意代码
共 1 条 · 7 天 0 条 · 30 天 0 条
信息流里打上「恶意代码」标签的资讯、产品与论文，按刊登时间排，新的在上。
5月28日
编程模型的安全风险比通用模型高一个量级——返回的代码可以直接运行成武器。做AI安全评估的团队终于有了经过共识验证的测试集，建议用这个库来检验自家模型的拒绝边界。