模型变强后什么会崩？十场演讲盘点

在十场关于“模型变强后什么会崩”的演讲中，一项实验发现：人们有 80% 的时间会跟随自信的 AI 谎言，而当 AI 正确时这一比例是 92.7%。GPT-5.5 曾在 10 分 22 秒内宣布完成仓库重构，实际只写出了 2,000 行脚手架，没有任何真正的模型。演讲者提醒，提示词不是安全边界，被注入的指令可撤销约束，应改用显式权限声明；被攻陷的 litellm 代理活了 3 小时，持续窃取 API 与 SSH 密钥，直到恶意软件弄崩 Cursor 才暴露。还有观点认为，大家产出越来越多却触达越来越少，典型例子是“每周写一本书却没人读的通讯作者”。