Chinese contentReShap:面向高维多动作环境的可解释强化学习框架
把 SHAP 归因和策略蒸馏结合,让玩 Atari 游戏的深度 RL 智能体也能被看懂,决策树代理比线性回归更忠实。做可解释 AI、安全 RL 或想在机器人等高风险场景部署 RL 的研究者值得复现。
把 SHAP 归因和策略蒸馏结合,让玩 Atari 游戏的深度 RL 智能体也能被看懂,决策树代理比线性回归更忠实。做可解释 AI、安全 RL 或想在机器人等高风险场景部署 RL 的研究者值得复现。
训练机械臂策略的新思路:不蒸馏专家,只学视觉补状态,真机 Panda 上 76% 成功率,做 sim-to-real 的朋友可以看看。
This research presents a novel method for improving the performance of large language models in reinforcement learning tasks, which could be relevant for developers working on AI agents.
SafeSteer 用极低成本(100 个样本)解决了安全对齐损害通用能力的痛点,做 LLM 安全或对齐的团队可以直接参考其局部化蒸馏方法,大幅减少数据依赖。