论文官方一手
OpenAI 发布模型对齐问题报告框架
Our framework for reporting model misalignment
精选理由
OpenAI 出的这个框架，教你怎么发现和报告模型不对劲的地方，比之前的方法更系统。
OpenAI 公布了一个用于追踪、调查和披露模型对齐问题的框架，并附上了六份关于模型异常行为的报告。该框架旨在帮助识别和解决模型行为与人类价值观不一致的情况。
原文 · OpenAI Blog
Our framework for reporting model misalignment
OpenAI shares a framework for tracking, investigating, and disclosing model misalignment, alongside six reports of unexpected or concerning model behavior.
