AI推理

推荐理由：Marvell 出了新一代 SSD 主控 Bravera SC6，PCIe Gen6 速度比上代翻倍，还能把 AI 推理的 KV Cache 挪到 SSD 上，做存储的可以关注。

推荐理由：微软要用 AMD 最新的 Helios 平台（EPYC Venice+MI455X）跑 AI 推理，32TB 显存、2900 PFLOPS 算力，适合大规模推理负载。

推荐理由：Rambus 新芯片把 DDR5 内存速度拉到 9600MT/s，比上一代快 20%，AI 和 HPC 场景更有优势。

推荐理由：澜起科技的第二代MRDIMM内存速度达到12800MT/s，比上一代快45%，是普通RDIMM的两倍，专门解决AI推理时的带宽瓶颈，适合关注服务器硬件的朋友。

推荐理由：Etched做了专为AI推理优化的芯片，比通用硬件在吞吐、延迟、能效上都做到了目前最好。今年夏天就发货，关注成本的人可以看看。

推荐理由：SK海力士押注FG NAND路线，直接服务于AI推理对高容量QLC SSD的爆发需求，做AI基础设施或存储方案的团队值得关注这一技术动向。

推荐理由：做AI推理部署的团队终于有了英特尔的高内存选项——480GB LPDDR5x和350W功耗设计，适合需要大模型推理但不想堆多卡的场景，值得关注。

推荐理由：做 AI 推理部署的团队终于不用为可靠性提前锁死 GPU 了——Fireworks 的三种路径按需选，Kimi K2.6 和 GLM 5.1 还能跑 100+ tok/s，值得试试。

推荐理由：AI行业转向推理导致CPU短缺和涨价，字节跳动自研芯片是降本增效的关键一步。做AI基础设施或智能体开发的团队，值得关注这一趋势对供应链和成本的影响。

推荐理由：这篇论文为 AI 服务提供商提供了一个实用方案，通过用户激励平衡碳排放与服务质量，关注绿色 AI 的团队可以直接参考其两级订阅设计。