#MMLU
共 22 条 · 7 天 2 条 · 30 天 14 条
信息流里打上「MMLU」标签的资讯、产品与论文,按刊登时间排,新的在上。
10月6日
9月30日
9月25日
9月24日
Bonsai 2 27B 配 9.7 MB 适配器可去审查并保持 MMLU 成绩
一个才 9.7 MB 的小适配器,挂在 Bonsai 2 27B 上就能去掉拒绝回答,MMLU 几乎不掉分,16 GB 的 MacBook 也能跑。
9月20日
9月19日
9月18日
9月17日
9月16日
9月11日
9月2日
8月28日
8月20日
8月16日
7月30日
Constitutional Midtraining:中期插入宪法内容可提升模型对齐
Anthropic提出了在模型训练中期加入宪法性内容来提升对齐持久性,在blackmail任务上降了17.5pp,而且不牺牲MMLU等能力,值得搞对齐的人看看。
7月9日
分析驱动的Transformer线性化:缩小与Softmax的差距
这篇论文搞清楚了Transformer线性化为什么delta式更厉害,还给出了具体修补方案,在LLaMA和Qwen上跑到了32B,MMLU成绩比之前的后验方法好。
7月2日
5月13日