Meta CEO 扎克伯格：保障 AI 安全应引入独立外部评估

Meta 扎克伯格：保障 AI 安全应依靠引入独立外部评估，而不是放缓 AI 发展

IT之家 9 月 16 日消息，Meta CEO 扎克伯格今日在 X 平台发文，表达了对业界呼吁放缓 AI 开发一事的看法。 扎克伯格表示，现实情况是用户绝不会愿意去用那些与自身价值观未对齐、且无法按指令执行任务的智能体。因此， 各大 AI 实验室天然具备极强的内在动力，去提升自身模型的对齐水平 。 IT之家注：模型的对齐水平是指人工智能模型的输出结果与人类的意图、价值观、道德规范以及真实世界事实的符合程度。 当前业界对于“是否应放缓模型能力的迭代、直到对齐技术跟上”存在诸多争论。 而在我看来，信任与对齐正迅速成为拉开智能体和模型差距的核心竞争力。任何忽视对齐技术的实验室，都必将遭到淘汰。 如果模型造成危害，实验室将承担重大法律责任， 因此他们同样有极强的动力去防患于未然 。 据其介绍，Meta 此前将 Muse 的发布推迟了数月，正是为了全力确保其功能安全与系统防护。扎克伯格称 Meta 并未在自己付诸行动之前，先去大声呼吁全行业效仿 ，而只是将其融入日常研发工作中。 引入独立的外部评估机构与顾问，属于行业最佳实践 。如今，MSL（Meta 超级智能实验室）已在多个业务领域践行了这一做法，并且成效显著。其他实验室同样能够做到这一点。总体而言，建立一个规模更大、更多元化的评估生态系统，对全行业将是有益的。 相比于盲目竞逐递归自我改进，将绝大部分算力用于服务大众，是确保我们安全开发该技术的最佳途径之一。Meta 已作出这一承诺，其他实验室也完全能够跟进。 相关阅读： 《 全球首富马斯克谈 AI 安全：主张交叉测试，让对手来“挑刺” 》 《 OpenAI 奥尔特曼称 AI 行业自律可守住安全底线 》 《 英伟达黄仁勋：AI 行业不需要新法律，开发可兼得速度和安全 》 《 “三巨头”联手，OpenAI、Anthropic、谷歌 Deepmind 开始合作研究 AI 安全措施 》 《 CrowdStrike CEO 反对放缓前沿 AI 开发，称潘多拉魔盒已打开 》 《 “大空头”伯里谈科技巨头呼吁放缓 AI 开发：说白了还是为自己谋利 》 《 行业呼吁控制 AI 研发节奏：投资者担忧资本开支降温，半导体板块承压 》