10:15
官方账号arXiv cs.LG@Himil Vasava, Ming Jiang
精选73°
推荐理由：Themis和Prometheus评分机制被解析，微调如何改变LLM评估流程有新发现
Mistral-7B
共 1 条相关 AI 资讯
9月2日
10:15
Themis(Llama-3-8B)和Prometheus(Mistral-7B)评分模型采用两阶段评估流程。低于15层注意力执行局部错误比较，高于15层MLP级联整合信号并写入评分。在Themis中决策形成于第26层，Prometheus在第25层。基础模型(Llama-3-8B)重现路由架构和决策形成，但不具备阶段分离，表明微调塑造了现有结构而非从头构建。