7月28日
14:09
14:09向阳乔木@vista8
Scaling Laws(缩放定律)描述了模型性能随计算量、数据量和参数规模变化的幂律关系。该定律由OpenAI在2020年提出,指导了大模型训练的资源分配。理解Scaling Laws有助于设计更高效的模型训练策略。
事件专题

推荐理由:想搞懂大模型为什么越训越大?这个视频用动画讲清Scaling Laws的缩放规律,比看论文容易多了。
7月8日
18:19
18:19量子位@思邈
精选
智源研究院提出悟界·Orca方法,改变大模型训练顺序,先让模型学习世界动态变化规律。该方法旨在避免AI直接进入任务执行。相关论文入选Hugging Face论文月榜第一。
推荐理由:智源搞了个新训练法Orca,不让AI一上来就干杂活,先学世界怎么变。论文上了Hugging Face月榜第一,值得看看他们的思路。