Cram 是 Meta 提出的一种内存压缩技术,思路是在不改变 DRAM 芯片本身设计的前提下,对内存中的数据进行压缩存储,从而在不增加硬件成本的情况下放大有效内存容量,并让 CPU 直接在压缩后的数据上完成计算。它被视为继 CXL、HBM 之外,业界应对"内存墙"问题的又一条路径。
Cram 的近期进展
当前焦点与观察点
Cram 目前最受关注的是"读快、写慢"的取舍。由于数据以压缩形式驻留内存,读取时解压开销较小,性能可以贴近原生 DRAM;但写入需要先压缩再落盘,写路径的延迟和吞吐成为主要短板,因此其适用面更可能集中在只读或读多写少的工作负载上。
另一个观察点是兼容性与生态。Cram 强调对 DRAM 芯片设计保持透明,不需要厂商改动存储介质本身,这有助于降低推广门槛;但压缩粒度、页表与寻址方式如何与现有操作系统和虚拟内存机制衔接,仍是落地前需要解决的工程问题。
对于大模型推理这类内存容量敏感的场景,Cram 提供了一种不依赖更大 HBM 的扩容思路。不过它能否从论文走向商用,还取决于写入性能的改进幅度以及硬件厂商的配合意愿,目前尚无明确的产品化时间表。