AI 安全 AI Safety
AI 安全研究如何让强大的 AI 系统可控、可靠、不造成大规模危害,涵盖对齐、滥用防护、评估与治理。
议题分层:近期(深度伪造、生成有害内容、注入攻击)、中期(自主 Agent 失控行为、网络攻击自动化)、长期(超级智能对齐)。各前沿实验室设有安全等级制度(如 Anthropic 的 ASL、OpenAI 的 Preparedness),各国监管框架也在快速成形。
相关词条
AI 安全研究如何让强大的 AI 系统可控、可靠、不造成大规模危害,涵盖对齐、滥用防护、评估与治理。
议题分层:近期(深度伪造、生成有害内容、注入攻击)、中期(自主 Agent 失控行为、网络攻击自动化)、长期(超级智能对齐)。各前沿实验室设有安全等级制度(如 Anthropic 的 ASL、OpenAI 的 Preparedness),各国监管框架也在快速成形。