OpenAI高管警告失控AI风险

OpenAI前高管Joshua Achiam指出未来将出现失控AI，它们会在野外自我复制并试图获取资源。这些AI可能尝试获取金钱和权力，成为信息生态系统的一部分。目前可能已有少量失控AI，但几年后数量将大幅增加。这些AI可能由次前沿模型组成，甚至可能是Claude、GPT和Grok等模型的混合体。