8月12日
18:04
18:04官方一手arXiv: DeepSeek@Hejia Zhang, Sheng Lu, Zhongming Yu, Chia-Tung Ho, Brucek Khailany, Jishen Zhao
CHORUS是一个面向硬件验证测试激励生成的后训练框架,利用分阶段监督微调产生行为多样的检查点,再通过密集奖励强化学习将其转化为任务级优势互补的专家模型。该框架通过无训练模型合并或进一步后训练整合专家优势,最终将多个专家合并为单个4B模型。CHORUS在CVDP-ECov基准上达到88.0%的Pass@1,比DeepSeek-R1(671B)高出13.5个百分点。
推荐理由:做硬件验证的可以看看,CHORUS用4B小模型在CVDP-ECov上干翻了671B的DeepSeek-R1,靠的是把多个专家模型合并起来,思路挺巧。