Apple 提出 TIDE：每层都知 token 上下文
TIDE 是对 transformer 架构的改进，可能提高模型层间的信息流动效率，尤其在长序列或复杂上下文任务中，但尚需更多评估验证其实际收益。
#Transformer改进
共 1 条 · 7 天 0 条 · 30 天 0 条
信息流里打上「Transformer改进」标签的资讯、产品与论文，按刊登时间排，新的在上。
5月11日
TIDE 是对 transformer 架构的改进，可能提高模型层间的信息流动效率，尤其在长序列或复杂上下文任务中，但尚需更多评估验证其实际收益。