11:35官方账号arXiv cs.AI@Marco Giunti, Fabrizia Giulia Garavaglia这篇论文重新解释Transformer推理机制,提出SIDPP(序列级交互式动态并行处理)框架。作者用输出-权重互连描述部分网络的输出如何决定其他网络的权重,从而根据输入提示动态生成变换参数。他们发现动态处理的贡献随提示长度增长,可等于或超过静态处理,称为强提示敏感性。论文还推测人类语言处理可能也是类Transformer架构实现的SIDPP。论文TransformerSIDPP动态处理推荐理由:这篇论文把Transformer说成“用概念变换概念”,提出动态权重来自输入的新解释,还猜测人脑可能也这么处理语言。原文稍后读已读值得跟进有用关注 Transformer