AITP
精选全部 AI 动态AI 日报Agent 接入我的简报我的追踪阅读偏好内容方法关于更新日志信源提报反馈
外观
登录 / 注册
AITOP

Skaling law

共 1 条相关 AI 资讯
8月11日
07:52
07:52elvis@omarsar0
Meta新论文提出Skaling law,通过单一交互指数耦合模型容量与训练数据。该定律将平均绝对百分比误差在插值和外推中降低1.5倍至3倍。在数据稀缺和重度过训练区域,Chinchilla与Kaplan传统定律的预测会漂移,Skaling law的修正幅度最大。配合稀疏网格,只需约十分之一计算量即可外推完整训练网格。论文预印本编号为arXiv:2608.07222。
论文MetaSkaling lawChinchilla

推荐理由:Meta新论文搞了个Skaling law,比Chinchilla和Kaplan那套准1.5到3倍,而且小规模跑就能算准,预算算力能省不少。
原文
精选全部日报登录