AITP
精选全部 AI 动态AI 日报Agent 接入我的简报我的追踪阅读偏好内容方法关于更新日志信源提报反馈
外观
登录 / 注册
AITOP

评分模型

共 1 条相关 AI 资讯
9月2日
10:15
10:15官方账号arXiv cs.LG@Himil Vasava, Ming Jiang
精选73°
Themis(Llama-3-8B)和Prometheus(Mistral-7B)评分模型采用两阶段评估流程。低于15层注意力执行局部错误比较,高于15层MLP级联整合信号并写入评分。在Themis中决策形成于第26层,Prometheus在第25层。基础模型(Llama-3-8B)重现路由架构和决策形成,但不具备阶段分离,表明微调塑造了现有结构而非从头构建。
论文ThemisLlama-3-8BPrometheus

推荐理由:Themis和Prometheus评分机制被解析,微调如何改变LLM评估流程有新发现
原文
精选全部日报登录