AITP
精选全部 AI 动态AI 日报Agent 接入关于更新日志信源提报反馈
登录 / 注册
AITOP

Garg-2022

共 1 条相关 AI 资讯
7月3日
09:22
09:22官方账号arXiv cs.LG@Juwei Shen, Yujie Wu, Changwen Chen
现有脉冲神经网络(SNN)在Garg-2022上下文学习基准上无法应对非平凡任务维度。DendriCL通过将单个树突区室作为计算基质,其顶端递归结构与leaky online Widrow-Hoff LMS在动力学上等价。该单层架构在超维Garg-2022任务上保持种子稳定性,而密集Transformer出现grokking式不稳定并失败。线性探针从顶端膜电位直接恢复参考online-LMS轨迹,R²达0.93,表明算法内嵌于动力学而非训练隐式发现。
论文DendriCLSNN上下文学习Garg-2022在线学习

推荐理由:这篇论文证明了单层脉冲神经网络就能实现上下文学习,比Transformer更稳定,在Garg-2022基准上表现亮眼。
原文
精选全部日报登录