Papers19:49
Chinese contentCACTUS:曲率感知剪枝优化器,剪枝同时保留影响函数做剪枝的可以看看:CACTUS 比 LLM-Surgeon 快 28 倍,还能保留影响函数做数据选择。
做剪枝的可以看看:CACTUS 比 LLM-Surgeon 快 28 倍,还能保留影响函数做数据选择。
做数据归因或模型调试的朋友可以看看,它解释了为什么不同影响力估计方法排序对不上,还给出对齐行为规范的具体做法。
Rewriting identified training examples produces stronger behavioral changes than reweighting, offering more effective intervention methods for AI safety and alignment.
做隐私审计或差分隐私研究的团队,这篇论文直接解决了单次运行审计中金丝雀干扰的痛点,提出的方法计算效率高且效果更好,值得点开看具体实现。