AITP
精选全部 AI 动态AI 日报Agent 接入关于更新日志信源提报反馈
登录 / 注册
AITOP

LLM评估器

共 1 条相关 AI 资讯
7月7日
11:47
11:47官方一手arXiv: DeepSeek@Andrew Zhang, Chengzhan Li
ASV是一个状态转换测量框架,为每个观察到的动作评分,基于状态锚定评估器在固定候选结果上的分布变化。在100个开放问答任务中,使用实时PubMed检索和部分实时的DeepSeek执行器与log-probability评分,评估了1100步和2200个状态。在固定布局理由条件下,平均金标准边际增益为-2.335(轨迹自举95% CI [-3.395, -1.272]),熵值变化为0.000,平均贝叶斯惊喜为2.693。ASV能够定位最终答案分数或纯熵步指标遗漏的建设性和破坏性信念转变。
论文ASV智能体评估状态转换LLM评估器DeepSeek

推荐理由:这篇论文提出了ASV框架,能比传统方法更细粒度地诊断智能体每一步的好坏,特别适合做Agent评估的朋友。
原文
精选全部日报登录