12:23官方账号arXiv cs.AI@Kaixin Ma, Di Feng, Alexander Metz, Jiarui Lu, Eshan Verma, Afshin DehghanMM-ToolSandBox是一个面向视觉驱动工具调用智能体的基准与评估框架,提供包含500多个工具、覆盖16个应用领域的有状态执行环境,支持多图像、多轮任务。框架通过自动场景生成流程产出258个人工验证的标准场景和50个交互式UI变体。评估12个模型(从4B开源到前沿闭源)后发现,最佳模型成功率仍低于50%。失败分析表明53%的失败源于图像信息提取错误,而非规划问题;小模型主要失败在决策,大模型则失败在感知。论文MM-ToolSandBoxApple智能体推荐理由:苹果推出了MM-ToolSandBox框架,帮你测测视觉智能体到底行不行,结果很扎心:最强模型成功率不到一半,而且问题出在“看图”而不是“想事”。原文稍后读已读值得跟进有用关注 MM-ToolSandBox