#AnchorKV

共 1 条 · 7 天 0 条 · 30 天 0 条

信息流里打上「AnchorKV」标签的资讯、产品与论文，按刊登时间排，新的在上。

6月17日

AnchorKV：基于拒绝锚点的软惩罚安全感知KV缓存压缩

想压缩KV缓存又怕模型不安全？AnchorKV用软惩罚巧妙拒绝有害token，既省内存又防越狱，适合部署场景。

#AnchorKV #KV缓存压缩 #越狱攻击 #安全对齐

arXiv cs.LG@Ning Ni, Yingjie Lao原文