20:28
Tri Dao (FlashAttention)@tri_dao
Tri Dao (FlashAttention)@tri_dao精选
推荐理由：不用存状态，算完就扔，SSM推理直接快一倍，Qwen 3.5和Nemotron Ultra用户试试这个技巧。
精选
过去 24 小时，从 924 条中筛出 57 条
6月16日
20:28
在运行大规模上下文智能体时，Qwen 3.5和Nemotron Ultra等混合模型面临Gated-DeltaNet/Mamba状态的瓶颈。一个简单洞察是加载状态并计算但不存储，可使速度提升2倍。该重计算技巧最终解锁了状态空间模型（SSM）的推测解码（spec decoding）功能。
6月11日
15:28
AITOP6月11日 15:28
15:23
AITOP6月11日 15:23
15:07
AITOP6月11日 15:07
6月2日
00:27
00:27
rohanpaul_ai@rohanpaul_ai
rohanpaul_ai@rohanpaul_ai精选76°
推荐理由：Nemotron 3 Ultra 的混合 SSM+MoE 架构解决了长序列推理的高成本痛点，做长上下文应用或工具调用的开发者值得关注，可以直接期待其发布。
6月1日
00:09
AITOP6月1日 00:09
