AITP
精选全部 AI 动态AI 日报Agent 接入关于更新日志信源提报反馈
登录 / 注册
AITOP
全部 AI 动态
AI 相关资讯全量信息流
全部博客资讯推文论文
全部模型产品行业论文技巧
标签:LLM-as-a-Judge×
6月28日
03:07
03:07elvis@omarsar0
精选
BINEVAL 将每个评估标准分解为原子的是非问题,独立回答每个输出,再聚合为校准的多维分数。在 SummEval、Topical-Chat 和 QAGS 三个基准上,它无需训练即匹配或超越了 UniEval 和 G-Eval,尤其在事实一致性上表现突出。每个问题级别的裁决都可检查,帮助诊断输出得分低的原因,并直接用于提示改进信号。论文 arxiv.org/abs/2606.27226 详细介绍了该方法。
论文BINEVALLLM-as-a-Judge评估UniEvalG-Eval

推荐理由:如果你用 LLM 做评估,这个方法比传统打分更透明——拆成原子问题逐一判断,还能直接帮你改进提示词。
原文
6月18日
10:02
10:02arXiv cs.LG@Zilong Zhang, Yi-Ting Hung, Lei Ding, Chi-Kuang Yeh
该研究将LLM作为评判者时的语速偏见等系统性偏差定义为问题核心。作者将有限人类监督下的LLM评估建模为正-无标记学习问题。提出基于部分最优传输(Partial Optimal Transport)的几何审计框架,无需重新训练即可识别人类一致偏好并纠正有偏评判者。实验表明该方法在提升与人类偏好一致性、增强对呈现偏差鲁棒性上优于现有流水线,并提供可解释的置信度估计。
论文LLMLLM-as-a-Judge正-无标记学习Partial Optimal Transport评估偏见

推荐理由:想治治AI裁判的偏袒病?这论文用数学几何直接纠偏,不用重训模型,比调prompt靠谱多了。
原文
6月16日
20:46
AITOP6月16日 20:46
600亿美元买下Cursor,xAI终于拿到了编程工具,但真正值得跟踪的或许不是AI600亿美元买下Cursor,xAI终于拿到了编程工具,但真正值得跟踪的或许不是AI
13:37
13:37elvis@omarsar0
该推文建议当微调模型资源消耗过大时,改用验证器(verifiers)作为替代方案。同样,LLM-as-a-Judge系统也值得尝试。通过验证器可评估微调专用模型的价值,降低训练成本。
技巧微调验证器LLM-as-a-Judge模型评估

推荐理由:觉得微调太烧钱?试试验证器吧,还能顺带评估LLM-as-a-Judge的效果。
原文
6月12日
12:57
AITOP6月12日 12:57
Claude代码里藏了个20260612,18个月后的AI记忆革命已经开始倒计时
6月11日
15:28
AITOP6月11日 15:28
1107 vs 303:谷歌悄悄开源了一个“拆打字机”的模型,把大模型速度翻了4倍
15:23
AITOP6月11日 15:23
DiffusionGemma颠覆文本生成?自回归模型的“统治”要结束了
15:07
AITOP6月11日 15:07
每秒1107个token,Google开源的扩散模型为什么能改变本地推理格局?
5月26日
12:12
12:12arXiv: OpenAI@Lingyao Li, Deyi Li, Chen Chen, Renkai Ma, Runlong Yu, Mingquan Lin, Rui Yin, Lizhou Fan, Cathy Shyr, Siyuan Ma, Mei Liu, Steven Bethard
精选
这篇综述系统分析了 LLM-as-a-Judge 在医疗领域的应用现状,涵盖临床决策支持、自然语言处理、医学问答和医疗沟通等场景。研究检索了 2023 年 1 月至 2026 年 2 月的 541 篇文献,最终纳入 134 项研究。OpenAI 模型是最常用的评判者,提示工程几乎出现在所有研究中,集成、多智能体和检索增强设计是常见扩展。在报告人类验证的研究中,LLM 评判者与专家判断呈现中等到强对齐,但可靠性因任务而异。该综述认为 LLM-as-a-Judge 是可扩展的医疗 AI 评估框架,但其临床价值取决于模型设计和严格验证。
论文LLM-as-a-Judge医疗AI评估框架临床决策支持人类对齐

推荐理由:医疗 AI 评估一直缺乏规模化手段,这篇综述系统梳理了 LLM-as-a-Judge 在临床场景的落地情况,做医疗 AI 开发或评估的团队可以快速了解当前方法的有效性和局限。
原文
精选全部日报登录