AITOP
全部 AI 动态
AI 相关资讯全量信息流
全部博客资讯推文论文
全部模型产品行业论文技巧
标签：推理时×
6月16日
20:46
10:48
10:48arXiv: DeepSeek@Xiaoyun Xu, Lichao Wu, Jona te Lintelo, Siyu Zhang, Stjepan Picek
SPARK是一种无需重训练的推理时安全机制，通过两步骤激活预训练模型中已有的安全知识。第一步针对编码任务检索少量CWE条目并附加结构化提示，第二步在每个解码步骤添加预计算token偏置（来自安全方向向量投影）。在9个开源模型（C++/Java/Python）上评估，SPARK匹配或优于7种基线方法，同时保持HumanEval代码能力。在Claude、DeepSeek、GPT等7个黑盒模型上进一步验证了激活瓶颈的存在和SPARK的改进效果。
论文SPARK代码安全安全生成推理时CWE
推荐理由：不用微调，不拖慢速度，只加几行提示和词向量偏置，代码安全就上去了，效果和重训练一样好。
原文
09:51
09:51arXiv cs.LG@Zhenyu Yu
InstantForget是一种新的后门遗忘方法，无需更新模型参数即可在推理时移除恶意触发行为。在CIFAR-10 ResNet-18上，它针对BadNets、WaNet、Blended和SIG四种触发方式，将平均攻击成功率（ASR）降至0.071。该方法通过马氏距离标记异常特征并重置为中性表示，达到0.981的检测AUROC，并成功迁移至六种主干网络。论文还揭示了投影假设在WaNet等触发下的失效（ASR分别达0.683、0.888和0.941），并用logit-trilplet间隙预测失败。
论文InstantForget后门攻击模型安全CIFAR-10推理时
推荐理由：这篇论文提出InstantForget，不用重新训练就能清除模型后门，在CIFAR-10上把攻击成功率压到7%，还搞了个检测机制AUROC 98%，挺实用的。
原文
6月12日
12:57
6月11日
15:28
15:23
15:07