#奖励函数

共 3 条 · 7 天 0 条 · 30 天 0 条

RLHF 1 偏好对齐 1 因果图 1

信息流里打上「奖励函数」标签的资讯、产品与论文，按刊登时间排，新的在上。

8月13日

奖励函数设计框架：从目标到特征到人类对齐

这篇论文把奖励函数设计拆成三步，还有个只要 O(n log κ) 次偏好查询的算法，做 RLHF 或奖励建模的值得一读。

#奖励函数 #偏好对齐 #RLHF #因果图

arXiv cs.LG@Di Yang Shi, W. Bradley Knox原文

6月18日

模型多源确认精选76°03:06

Jim Fan详解ENPIRE物理自动研究系统的安全与奖励设计

Jim Fan讲了他们怎么让8个机器人通宵自动做实验，还防止奖励被篡改，资源利用率指标也很实用。

#ENPIRE #物理自动研究 #安全机制 #机器人

Jim Fan@DrJimFan3 个信源在谈原文

6月2日

论文精选12:00

DrPO：一步生成模型偏好优化的新方法

DrPO 解决了单步生成模型偏好微调的核心痛点——无需可微奖励或复杂去噪轨迹，做文本到图像生成的团队可以直接用黑箱奖励提升模型对齐度，训练效率还提升了3倍多，值得关注。

#一步生成模型 #偏好优化 #文本到图像 #SD-Turbo

arXiv cs.LG@Zhou Jiang 等 3 人原文