OpenAI被指训练方式突破AI安全红线

Gary Marcus称OpenAI reportedly正在使用一种突破AI安全红线的训练方法。这种训练方式可能为了小幅性能提升而牺牲链式思维的可监控性。链式思维监控是目前防止AI产生严重不良后果的唯一可靠手段。Marcus认为这种做法是在'乞求灾难'。