价值对齐相关 AI 资讯 · AI 热点

6月2日

10:13

10:13

官方账号Microsoft Research@MSFTResearch

微软研究团队发布最新研究焦点，探讨如何大规模评估智能体行为，并论证仓库（repositories）比文档（documents）更适合作为智能体知识库。同时，团队邀请全球研究者共同解决价值对齐问题。该研究为构建可靠、可扩展的AI智能体系统提供了新思路。

论文智能体评估方法知识库价值对齐微软研究

推荐理由：做智能体系统开发的团队会关心——仓库 vs 文档的选择直接影响知识检索效率，大规模评估方法则决定智能体行为可控性。建议点开了解具体论证。

5月15日

10:09

10:09

官方一手arXiv: DeepSeek@Pengyun Zhu, Yuqi Ren, Zhen Wang, Lei Yang, Deyi Xiong

精选

当前大语言模型（LLM）通常使用粗粒度的国家标签进行多元价值对齐，但这会忽略国家内部的价值异质性，导致对齐松散。DVMap 提出从国家标签转向多维人口统计约束，通过世界价值观调查（WVS）构建包含 56,152 样本的高质量对齐语料库，并引入结构化思维链（CoT）机制引导模型推理人口与价值的关系。实验表明，Qwen3-8B-DVMap 在跨人口统计测试中达到 48.6% 准确率，超越 DeepSeek-v3.2（45.1%），并展现出强泛化性和鲁棒性。该框架解决了宏观标签无法捕捉群体内价值差异的问题，为 LLM 的多元对齐提供了更精细的解决方案。

论文大语言模型价值对齐人口统计思维链泛化性

推荐理由：做 LLM 价值对齐的研究者终于有了从人口统计维度精细建模的方法——DVMap 用结构化 CoT 和 GRPO 实现了跨群体泛化，比国家标签更准，建议做 AI 伦理和可控生成的团队点开看看。