Compressor（压缩器）在当前 AI 语境下，通常指对大模型输入序列或视觉 token 进行压缩的技术组件，用于在保持模型输出质量的同时降低推理成本。随着长上下文和多模态模型规模扩大，Compressor 正成为高效推理研究中的热门方向，相关的测试时优化与统一压缩范式不断涌现。
Compressor 的近期研究进展
当前焦点与观察点
目前围绕 Compressor 的讨论集中在三点：一是压缩时机，从离线训练专用压缩模块转向测试时动态计算（如 TTR-Compressor），灵活性更高但单次推理开销需要权衡；二是适用范围，从纯文本长上下文扩展到视觉 token 压缩（如 PACE），多模态成为主要落点；三是与量化的关系，FP8 等低精度方案与序列压缩并不冲突，工程实践中往往叠加使用。
值得关注的观察点包括：压缩率与下游任务准确率之间的量化关系是否能在不同模型间复现；测试时压缩能否在开源推理框架（如 vLLM）中低成本集成；以及压缩器是否会被纳入主流推理引擎的标准能力。对开发者而言，选择 Compressor 方案时建议优先评估在自有数据分布上的端到端效果，而非仅参考论文报告的通用指标。