#Memory Steering

1 stories · 1 in 7 days · 1 in 30 days

AI安全 1 RAG 1 上下文压缩 1

Stories, products and papers tagged "Memory Steering", newest first.

Nov 5

Papers Builders11:54

Chinese content研究显示上下文压缩会削弱模型的拒绝对齐行为

把长上下文压缩后模型可能更容易回答不该答的问题，这篇给出机制解释和一个不用重训练的修复方法，做 RAG 或长文本系统的人该看看。

#Memory Steering #上下文压缩 #AI安全 #RAG

arXiv cs.AI@Anthony Nguyen, Wenjun LinSource