Chinese content百度 ERNIE Evolve 自动化研究系统刷新 NanoChat 与 NanoGPT 纪录
百度这套系统能自己改代码、跑实验,验证有效才保留,已经把 NanoChat 和 NanoGPT Speedrun 的公开纪录刷掉了,还顺带提速了 ERNIE-5.5-Flash 推理。做过训练优化的朋友会知道手工调这些有多费时间,可以看看它的闭环思路。
百度这套系统能自己改代码、跑实验,验证有效才保留,已经把 NanoChat 和 NanoGPT Speedrun 的公开纪录刷掉了,还顺带提速了 ERNIE-5.5-Flash 推理。做过训练优化的朋友会知道手工调这些有多费时间,可以看看它的闭环思路。
百度搞了个自动做研究的系统 ERNIE Evolve,给定目标就能自己改代码跑实验,在 NanoGPT Speedrun 上拿下 SOTA,还把 ERNIE 5.5 Flash 的 GPU 推理吞吐拉高 33.7%。做工程优化的开发者可以看看它怎么把实验闭环自动化。
百度11月9日首次公开了自家的递归自我改进方案ERNIE Evolve,已经用在文心新模型的训练里,文心5.5 Flash也快来了。想追踪国产模型自我改进路线和文心版本节奏的人可以看看。