#稀有任务学习

1 stories · 0 in 7 days · 0 in 30 days

Stories, products and papers tagged "稀有任务学习", newest first.

Jun 16

Papers73°14:20

Chinese content为何大模型更聪明？论文揭示神经元竞争机制

这项研究用OLMo模型从4M到4B参数实验，直观解释了为什么小模型学不会稀有任务——不是数据不够，是神经元竞争导致梯度被覆盖。

#OLMo #模型缩放 #梯度 #神经元竞争

Official accountAlphaSignal@AlphaSignalAISource

稀有任务学习 · AI news | AITOP