7月28日
12:23
12:23官方账号arXiv cs.AI@Ali Ansari, Yasmin Mohammadi, Farnoush Nili, Parsa Esmaeilkhani, Longin Jan Latecki, Eduard Dragut
ERUnderstand是首个大规模评估视觉语言模型(VLM)对实体关系图(ERD)结构化理解能力的基准,包含2960张来自教育、真实世界和合成数据源的图。测试发现常见元素F1>0.74,但弱实体F1低至0.28,多值属性仅0.14,N元关系仅0.07。使用推理增强的模型整体提升15%-25%,但仍受语言先验和复杂度影响。基准、数据、工具和生成代码已开源。
推荐理由:想测VLM能不能看懂ER图?这个新基准用2960张图挨个打分,弱实体和N元关系掉得厉害,读论文就能知道差距在哪儿。