AITOP
全部 AI 动态
AI 相关资讯全量信息流
全部博客资讯推文论文
全部模型产品行业论文技巧
标签：反向传播替代×
6月16日
20:46
6月12日
12:57
6月11日
15:28
15:23
15:07
6月9日
12:32
12:32arXiv cs.LG@Kyungeun Kim, Amanuel Anteneh, Israel Klich, Olivier Pfister, J. M. Schwarz
精选
研究人员提出了一种名为Perturbative Contrastive Physical Learning (PCPL) 的通用框架，让物理系统能够通过对比不同条件下的响应来学习，无需外部处理器或显式反向传播。PCPL统一并扩展了平衡传播和频率传播等方法，通过测量物理状态之间的对比来驱动参数更新。该框架在弹簧网络和连续变量光子电路两种平台上成功演示了分类和模拟乘法任务。这一进展为构建更自主的物理学习系统迈出了重要一步。
论文物理学习PCPL反向传播替代平衡传播光子计算
推荐理由：PCPL 让物理系统自己学会学习，做物理计算或类脑计算的团队值得关注——它可能开启无需数字芯片的自主训练新范式。
原文
6月3日
10:17
10:17arXiv cs.AI@Xinyang Liu, Xuanyu Liang, Shiqi Ding, Boyang Li, Zhiqiang Que, Jiayang Li, Guosheng Hu
精选
FFR（Forward-Forward for Regression）是首个将Forward-Forward（FF）算法成功扩展到回归任务的方法。FF算法通过局部逐层优化替代反向传播（BP），但原本只适用于分类任务，因为回归的连续目标空间缺乏自然“对立样本”。FFR提出三项创新：基于有序竞争的好度函数、分层阶梯架构（浅层学习粗粒度排序、深层细化回归）以及带不确定性估计的分层预测。在五个真实回归基准上，FFR平均恢复BP 98.6%的精度，峰值训练内存仅为BP的27%（深度8）和8%（深度32），每轮迭代时间约为BP的72%，显著优于所有无BP的竞品。
论文Forward-Forward算法回归任务反向传播替代生物启发学习低内存训练
推荐理由：做回归任务的深度学习研究者终于有了FF算法的可用方案——FFR在保持低内存优势的同时逼近BP精度，资源受限场景或生物启发学习的团队值得关注。
原文