#能耗优化

3 stories · 1 in 7 days · 1 in 30 days

Stories, products and papers tagged "能耗优化", newest first.

Oct 21

Papers BuildersMulti-source11:53

这篇论文把每 token 的电耗拆成活跃字节加解码时间两个量，误差 3.73% 以内，做推理部署省电的可以照着算。

arXiv cs.LG@Chenxu Niu et al. (4)11 sourcesSource

Aug 3

这个新框架把联邦学习和分割学习结合起来，用量化省电，还能控制精度，比传统方法更适合手机这类设备跑大模型。

arXiv cs.LG@Idan Roth, Lutz LampeSource

Jun 12

数据中心冷却问题正制约 AI 算力扩展，Ferveret 的方案直接提升 token 产出效率，做 AI 基础设施或大模型部署的团队值得关注这一突破。

Y Combinator@ycombinatorSource