#智能体对齐

共 2 条 · 7 天 0 条 · 30 天 1 条

CARA 1 蒸馏技术 1 角色训练 1 风险规避 1

信息流里打上「智能体对齐」标签的资讯、产品与论文，按刊登时间排，新的在上。

9月30日

论文 Agent 与开发者10:35

风险规避型智能体训练方法研究

这篇论文教你如何训练AI智能体变得风险规避，比直接训练决策格式效果更好，还能防止智能体叛乱。

#风险规避 #智能体对齐 #CARA #角色训练

arXiv cs.AI@Arav Dhoot 等 6 人原文

5月28日

论文精选11:26

CCO：用校准保守主义实现可扩展的AI监督

这篇论文解决了超人类AI系统的监督难题，做AI安全和对齐的研究者可以直接参考其理论保证和实验验证。

#AI安全 #可扩展监督 #共形预测 #保守主义

arXiv cs.AI@William Overman, Mohsen Bayati原文