知识边界相关 AI 资讯 · AI 热点

7月7日

11:38

11:38

官方账号arXiv cs.AI@Haozhe Wang, Weijia Feng, Jinpeng Yu, Che Liu, Ping Nie, Fangzhen Lin, Jiaming Liu, Ruihua Huang, Jimmy Lin, Wenhu Chen, Cong Wei

本文提出SearchGen-20K数据集和SearchGen-Bench基准，包含20,839条提示，覆盖12类失败模式和22个领域。在SearchGen-Bench上，前沿开放视觉生成模型得分仅21-28分（满分100），比现有基准低40分。作者发现朴素搜索无效，会引入噪声，并识别出生成器特有的知识边界，提出"先教后搜"协同训练框架，即使最小版本也带来单调改进。

论文 SearchGen-20K SearchGen-Bench 视觉生成知识边界协同训练

推荐理由：想了解视觉生成模型为什么画不出新角色或近期事件？这篇论文用具体数据告诉你差距在哪，还给了个可复现的协作搜索方案。

6月10日

11:31

11:31

官方账号arXiv cs.AI@Haeji Jung, Hila Gonen

精选72°

研究者推出 PhantomBench，这是首个专门评估语言模型对“不存在概念”识别能力的基准，包含超过6万个从真实领域衍生的虚构术语和实体。测试了21个不同规模和类型的模型，发现平均幻觉率高达86.7%，即使是前沿模型在面对预设存在的输入时也几乎无法拒绝回答。该基准可作为研究模型在罕见概念上幻觉行为的代理工具，并提供了可扩展的构建流程。这项工作揭示了模型知识边界认知的严重缺陷，对高风险应用场景构成警示。

论文幻觉基准测试模型评估知识边界 AI安全

推荐理由：做AI安全或模型评估的团队，这个基准直接戳中了当前模型最致命的弱点——它们连“不存在的东西”都分不清，建议用PhantomBench测测自家模型。