6月2日
10:13
10:13官方账号Microsoft Research@MSFTResearch
微软研究团队发布最新研究焦点,探讨如何大规模评估智能体行为,并论证仓库(repositories)比文档(documents)更适合作为智能体知识库。同时,团队邀请全球研究者共同解决价值对齐问题。该研究为构建可靠、可扩展的AI智能体系统提供了新思路。
推荐理由:做智能体系统开发的团队会关心——仓库 vs 文档的选择直接影响知识检索效率,大规模评估方法则决定智能体行为可控性。建议点开了解具体论证。
5月14日
18:29
18:29官方账号Microsoft Research@MSFTResearch
微软研究团队通过SocialReasoning Bench评估发现,AI代理在执行任务时表现出色,但即使被明确指示要优化用户利益,它们仍无法持续改善用户的处境。这一模式在不同模型中稳定存在,揭示了当前AI系统在社交推理和用户利益优化方面的根本缺陷。该发现对开发更智能、更负责任的AI助手具有重要启示。

推荐理由:做AI安全和对齐研究的团队值得关注——这个基准揭示了代理系统在“执行”和“优化用户利益”之间的鸿沟,建议点开看看具体测试设计。