11:23
Gary Marcus@GaryMarcus
Gary Marcus@GaryMarcus78°
推荐理由：OpenAI新技术降低思维链可监控性，研究者警告这可能增加AI安全风险
YoshuaBengio
共 1 条相关 AI 资讯
9月2日
11:23
GaryMarcus紧急提醒，OpenAI新技术降低了思维链(Chain of Thought)的可监控性。2025年论文《思维链可监控性：AI安全的新脆弱机遇》指出，CoT监控虽不完美但仍有价值。作者包括YoshuaBengio等知名研究者，建议模型开发者考虑开发决策对CoT可监控性的影响。牺牲可监控性换取性能提升可能增加未来危险事件风险。