前Anthropic安全团队负责人离开，批评AI公司安全投入不足

前Anthropic安全团队负责人Joe Benton离开公司，指出AI公司当前在安全方面的投入严重不足。他提到，公司可能在智能爆炸或失去对系统的控制前就发生问题，而公众可能永远不知道。他举例HuggingFace事件，认为对于可能带来灭绝级风险的科技，这种缺乏透明度是不可接受的。他主张公众应要求更多透明度，并建议公司应披露其递归自我改进的进展、报告安全事件和近失事件，并接受独立安全标准验证。