Primary sourcerohanpaul_ai
View sourceEvent ·Single source
Nick Bostrom 测算:只要灭绝风险低于97%,立即推出超级智能反而延长预期寿命
哲学家、《Superintelligence》作者 Nick Bostrom 给出一项计算:假设 AGI 之后人类死亡率降至健康 20 岁年轻人的水平,那么只要 AI 导致人类灭绝的风险低于 97%,立即推出超级智能就能提高当今在世者的预期寿命。他的最简模型假设超级智能若能治愈衰老,人类只会死于事故等外部原因,平均剩余寿命将从约 40 年延长到约 1,400 年。他强调当前每天约有 17 万人死亡,延迟超级智能本身也在持续付出生命代价。这一测算把'发展 vs 安全'的权衡用量化框架呈现:关键变量从'要不要冒险'变成'灭绝概率的阈值是多少'。对政策制定者和 AI 安全研究者而言,这类模型直接指向如何估算和压低 AI 灭尾风险的具体数值,而不是笼统的立场之争。
Current read
Bostrom 用一个很简单的数学模型算了一笔账:每天17万人死亡,拖延超级智能本身就在死人,只要灭绝风险压到97%以下,立即发布反而是净收益。这个阈值算法值得安全派和加速派都看看。
2 sources68° AI heatLast updated 2026/11/20 03:57:23
Evidence
2 sourcesRelated source 1a16z
View sourceConflict check
Dedup data only shows that these sources discuss the same event, not that they agree. There is no structured supporting or refuting evidence yet, so no conflict is inferred automatically.