精选理由
关注 AI 安全的团队可以看看这个反直觉的思路——通过限制领先者而非封锁技术来减缓 AI 进化，值得讨论。
Jeremy Howard 提出一个减缓递归 AI 自我改进的简单方案：排名最高的模型实验室必须同意不使用该模型进行前沿 AI 研究，但其他所有人都可以访问它。这样，前沿就不会进步。该方案旨在防止 AI 快速自我改进带来的风险，同时保持开放访问。
AI 翻译 · 中文
Jeremy Howard 提出一个减缓递归 AI 自我改进的简单方案：排名最高的模型实验室必须同意不使用该模型进行前沿 AI 研究，但其他所有人都可以访问它。这样，前沿就不会进步。该方案旨在防止 AI 快速自我改进带来的风险，同时保持开放访问。
Easy solution to slow down recursive AI self improvement: - The lab with the top-ranked model must agree THEY must not use it for working on frontier AI - But everyone else should have access to it. By definition, this m…
- Simon Willison’s Weblog06-10 15:23原文