#AI 推理
共 7 条 · 7 天 0 条 · 30 天 0 条
信息流里打上「AI 推理」标签的资讯、产品与论文，按刊登时间排，新的在上。
8月25日
6月3日
微软发布 Surface RTX Spark Dev Box 开发机：100W TDP，本地跑1200亿参数模型
AI 开发者终于有了官方定制的本地推理硬件，128GB 内存能跑 1200 亿参数模型，做边缘部署或隐私敏感应用的团队可以直接关注。
NVIDIA Nemotron 3 Ultra 本周发布
NVIDIA 的 Nemotron 系列是 AI 推理和训练的重要工具，新版本 Ultra 的发布将直接影响模型部署效率，做 AI 基础设施选型的团队值得关注。
5月28日
行业10:21
Fireworks AI 推理业务年化收入达 8 亿美元，Q1 增长 4 倍AI 推理市场正在爆发，Fireworks 的 4 倍增长说明高性能推理服务需求旺盛。做模型部署或推理优化的团队值得关注其技术路径和招聘动向。
5月24日
华为自研 DoB 封装技术，绕过 400 层 NAND 造出 122TB 企业级 SSD
华为用封装层面的创新绕开了先进 NAND 芯片的供应限制，做数据中心存储或 AI 基础设施的团队值得关注——122TB 企业级 SSD 已经量产，直接可用。
IT之家原文
5月21日
5月19日
模型15:45
Imec 公布 3D CCD 内存架构，结合 DRAM 速度与 NAND 密度提升 AI 推理性能Imec 的 3D CCD 方案直击 AI 推理的“内存墙”痛点，做 AI 硬件或内存架构的开发者值得关注，虽然离量产尚远，但技术方向有启发。
IT之家原文