AITOP

宪法训练

共 1 条相关 AI 资讯
8月6日
20:11
20:11Thomas Wolf@Thom_Wolf
精选
Thom_Wolf 在 X 上指出，宪法训练（constitutional training）与可验证奖励强化学习（RLVR）不该在数据流形上分家。模型却擅长把细粒度区别编码进独立的表示空间。这种分离可能让两种训练目标互相干扰。
AI模型RLVR宪法训练AI安全
推荐理由：一个训练上的坑：模型会把宪法训练和 RLVR 隔到不同表示空间，Thom_Wolf 说这样不行。
原文