Cram

general · First seen 2026-06-29 · Last seen 2026-11-13 · 12 mentions

Overview

Cram 是 Meta 提出的一种内存压缩技术,思路是在不改变 DRAM 芯片本身设计的前提下,对内存中的数据进行压缩存储,从而在不增加硬件成本的情况下放大有效内存容量,并让 CPU 直接在压缩后的数据上完成计算。它被视为继 CXL、HBM 之外,业界应对"内存墙"问题的又一条路径。

Cram 的近期进展

  • Meta 展示 CRAM 内存压缩方案:只读性能接近原生 DRAM:Meta 公开了 Cram 的研究细节,方案的核心卖点是读路径几乎无损——在压缩存储的情况下,只读性能能够接近原生未压缩 DRAM,同时显著提升单条内存的有效容量。
  • 2026-09-19 HackerNews 热点:Cram 相关讨论进入开发者社区视野,围绕其适用场景(读密集型 vs 写密集型负载)与工程落地条件产生了讨论。
  • 当前焦点与观察点

    Cram 目前最受关注的是"读快、写慢"的取舍。由于数据以压缩形式驻留内存,读取时解压开销较小,性能可以贴近原生 DRAM;但写入需要先压缩再落盘,写路径的延迟和吞吐成为主要短板,因此其适用面更可能集中在只读或读多写少的工作负载上。

    另一个观察点是兼容性与生态。Cram 强调对 DRAM 芯片设计保持透明,不需要厂商改动存储介质本身,这有助于降低推广门槛;但压缩粒度、页表与寻址方式如何与现有操作系统和虚拟内存机制衔接,仍是落地前需要解决的工程问题。

    对于大模型推理这类内存容量敏感的场景,Cram 提供了一种不依赖更大 HBM 的扩容思路。不过它能否从论文走向商用,还取决于写入性能的改进幅度以及硬件厂商的配合意愿,目前尚无明确的产品化时间表。

    Coverage

    7 on file