AITP
精选全部 AI 动态AI 日报Agent 接入关于更新日志信源提报反馈
登录 / 注册
AITOP
精选
过去 24 小时,从 866 条中筛出 49 条
全部模型产品行业论文技巧
标签:AI推理×
6月11日
15:28
AITOP6月11日 15:28
1107 vs 303:谷歌悄悄开源了一个“拆打字机”的模型,把大模型速度翻了4倍
15:23
AITOP6月11日 15:23
DiffusionGemma颠覆文本生成?自回归模型的“统治”要结束了
15:07
AITOP6月11日 15:07
每秒1107个token,Google开源的扩散模型为什么能改变本地推理格局?
6月4日
09:27
09:27IT之家(博客/媒体)
精选
据韩媒报道,SK海力士计划在大连二厂建设约250层的FG(浮栅)结构3D NAND产线。目前主流闪存原厂均采用CT(电荷阱)结构,SK海力士通过收购英特尔闪存业务保留了FG技术。公司已完成200层以上FG NAND研发,计划2026年Q3建设中试线,2027年H2实现量产。FG结构更适合QLC NAND,而AI推理工作负载对读取密集型QLC SSD需求旺盛,此举将巩固其在AI存储市场的竞争力。
行业SK海力士FG NANDQLCAI推理存储芯片

推荐理由:SK海力士押注FG NAND路线,直接服务于AI推理对高容量QLC SSD的爆发需求,做AI基础设施或存储方案的团队值得关注这一技术动向。
原文
6月1日
12:51
12:51IT之家(博客/媒体)
精选
英特尔在COMPUTEX前夕进一步介绍了其面向AI推理的数据中心GPU“Crescent Island”,该卡将于今年晚些时候面世。它支持从FP4到FP64的多种数据类型,配备高达480GB的LPDDR5x内存,采用350W功耗的PCIe AIC设计,主打每瓦词元效率。英特尔确认,其Xe3P GPU架构将应用于PC、数据中心、边缘和工作站四大领域,包括下一代PC芯片。
AI产品英特尔数据中心GPUAI推理Crescent IslandXe3P

推荐理由:做AI推理部署的团队终于有了英特尔的高内存选项——480GB LPDDR5x和350W功耗设计,适合需要大模型推理但不想堆多卡的场景,值得关注。
原文
00:09
AITOP6月1日 00:09
OpenAI 发起“Codex for Open Source”:免费赠送 6 个月 Pro 订阅,开源维护者能否迎来 AI 变革?
5月30日
11:08
11:08Fireworks AI@FireworksAI_HQ
精选
Fireworks AI 发布了 Serverless 2.0,提供三种服务路径:Standard(弹性默认)、Priority(拥堵时最后降级,价格约 1.5 倍)和 Fast(Kimi K2.6 和 GLM 5.1 上超 100 tok/s)。该方案解决了传统 AI 推理中需要预留 GPU 才能保证可靠性的痛点,让开发者按需使用、灵活选择性能与成本。用户无需提前锁定资源即可获得高吞吐和低延迟,降低了 AI 部署的门槛。
AI产品FireworksServerless 2.0AI推理GPUKimi K2.6

推荐理由:做 AI 推理部署的团队终于不用为可靠性提前锁死 GPU 了——Fireworks 的三种路径按需选,Kimi K2.6 和 GLM 5.1 还能跑 100+ tok/s,值得试试。
原文
5月29日
08:02
AITOP5月29日 08:02
Opus 4.8发布:编程助手的“静默时刻”,是解放开发者,还是新门槛?🔥Anthropic 把 AI 编程的“确认键”彻底删掉了!Claude Code 搭载全新 Opus 4.8 模型,长时间任务不跑偏、不废话、不中断,像一个资深工程师一样默默干活,从功能开发到漏洞清扫全包圆,你在旁边喝茶等结果就行。过去 AI 写代码三步一问“这样可以吗”,现在它直接交完整交付物……自主编程的最后一层窗户纸,被捅破了。做自动化开发和代码审查的团队,这个模型建议直接上手,效率差距肉眼可见……Opus 4.8发布:编程助手的“静默时刻”,是解放开发者,还是新门槛?
5月28日
17:18
17:18IT之家(博客/媒体)
精选
据路透社报道,字节跳动正在开发自有CPU,以应对AI推理阶段对CPU的高需求及芯片价格上涨、供应短缺问题。该项目处于早期阶段,计划部署在自有服务器和数据中心,支持内部运营及Coze等智能体产品。字节跳动同时探索基于Arm和开源RISC-V的两条架构路线,并已接触外部合作伙伴参与设计及制造。此举与谷歌、亚马逊等云服务商的自研芯片趋势一致,旨在降低成本并提升性能。
行业字节跳动自研CPUAI推理芯片短缺Arm/RISC-V

推荐理由:AI行业转向推理导致CPU短缺和涨价,字节跳动自研芯片是降本增效的关键一步。做AI基础设施或智能体开发的团队,值得关注这一趋势对供应链和成本的影响。
原文
5月27日
10:50
10:50arXiv cs.LG@Vasilios A. Siris, Adamantia Stamou, George D. Stamoulis, Konstantinos Varsos, Ramin Khalili
精选
AI 服务的广泛使用引发了环境可持续性担忧,其中 AI 推理的碳排放是主要贡献者。本文提出一个框架,基于用户对推理质量和延迟的估值以及环保意识,设计激励措施,同时权衡碳排放与这两个 QoE 参数。该框架可适应不同 AI 模型规模和资源分配下的权衡。激励通过实用的两级服务订阅实现,用户以折扣换取碳排放减少。在碳强度高时,折扣服务允许 AI 提供商以较低质量和较高延迟服务部分推理请求。
论文AI推理碳排放用户激励服务质量绿色AI

推荐理由:这篇论文为 AI 服务提供商提供了一个实用方案,通过用户激励平衡碳排放与服务质量,关注绿色 AI 的团队可以直接参考其两级订阅设计。
原文
精选全部日报登录