10:14
官方账号arXiv cs.LG@Kevin Kingslin, Anish Natekar, Ashutosh Ranjan, Vivek Srivastava, Savita Bhat, Shirish Karande
推荐理由：这篇论文用辩论方式来搞AI对齐，比单次解释更细致，在创意任务上预测偏好更准，搞对齐研究的值得看看。
Democratic ICAI
共 1 条相关 AI 资讯
6月29日
10:14
Democratic ICAI 通过结构化角色辩论收集多种竞争性理由，用于从人类偏好中提取自然语言原则。在创意偏好基准 MuCE-Pref 和 LiTBench 上，该方法在多种创意任务类别中提高了偏好预测准确性。与 deliberative prompting 和基于原则的基线相比，Democratic ICAI 产生了更忠实的偏好结构。LLM 标注者更偏好其生成的宪法。