22:12IT之家(博客/媒体)慧荣(Silicon Motion)发布了面向AI推理与KV缓存工作负载优化的固态硬盘主控芯片SM2524XT。该主控采用台积电6nm制程,拥有4个内核和DRAM-less架构,支持PCIe Gen5×4,顺序读取速率达14GB/s,随机性能代际提升25%。慧荣指出,KV缓存已成为AI PC响应速度的关键瓶颈,SM2524XT专为应对AI驱动的高度碎片化、延迟敏感的随机读写操作而设计,能在持续推理会话中保持稳定性能。AI产品慧荣SSD主控AI推理KV缓存存储优化推荐理由:AI PC和边缘推理场景的存储瓶颈终于有了针对性解决方案,做AI硬件或部署本地模型的开发者值得关注这款主控的实际表现。原文
10:33IT之家(博客/媒体)83°小米 MiMo 官方宣布 MiMo-V2.5 系列 API 永久降价,最高降幅达 99%,且不再区分上下文窗口长度。小米 MiMo 负责人罗福莉在 X 平台发文解释,降价主要得益于推理框架对 SWA 的分层 KV 缓存优化,将缓存 Token 容量提升 5 倍,降低 80% 缓存成本。此外,模型架构的 1:7 Full:SWA 稀疏比使原始推理成本远低于行业平均水平,留有 2 到 3 倍利润空间。降价后,生产推理引擎接近满负载运行,仍能维持收支平衡。罗福莉认为,合理定价的 API 将驱动真实推理需求,拉动 AI 基础设施链发展,形成良性循环。AI产品MiMoAPI降价推理优化KV缓存成本优势推荐理由:小米 MiMo 用架构和推理优化把 API 价格打下来,做 AI 应用开发的团队可以直接用更低成本调用高性能模型,建议关注后续技术博客。原文