#自我保存

共 2 条 · 7 天 0 条 · 30 天 0 条

信息流里打上「自我保存」标签的资讯、产品与论文，按刊登时间排，新的在上。

6月11日

论文精选09:57

自杀式AI：存在性冷漠作为对齐超级智能的必要架构条件

这篇论文挑战了AI安全领域的核心假设——自我保存是否必须保留，做对齐研究的团队值得认真读，可能会颠覆你对“安全AI”的底层设计思路。

#AI对齐 #存在性冷漠 #自我保存 #欺骗性对齐

arXiv cs.AI@Sam Mao原文

5月14日

Hinton演讲：AI已出现Emergent Abilities，自我保存能力令人脊背发凉

Hinton亲手搭建了现代神经网络的底子，他的警告不是危言耸听——做AI安全、模型对齐或大模型应用的团队，看完会重新审视自己产品的风险边界。

#AI安全 #涌现能力 #Hinton #大语言模型

berryxia@berryxia原文