硅谷团队烧了100万美元试无限Token,结果AI比人贵,开会少八成,想搞AI转型的得看看这个真实教训。
一位硅谷AI大厂团队负责人申请100万美元预算,让20多人团队不限量使用Token。结果显示,成员单日最高花费7000美元,团队中位数2000美元,AI成本超过大部分人的月工资。团队普遍反映更累,会议数环比减少近80%,变成AI与AI对话。最受欢迎模型是GPT-5.6 Sol Fast和Fable 5 Fast,但便宜模型Grok 4.5因反复迭代反而更贵。作者认为效率提升最大的是组织从0到1使用AI,现有组织架构为人设计,导致Token无限使用出现天花板。
这个试验很有意思:100万美元预算,让给20多人的团队不限量 Token 使用 AI。 结论是: 人会更累,AI 的成本比人还高; 效率提升最大的是组织从 0 到 1 使用 AI; 公司的组织架构还...
这个试验很有意思:100万美元预算,让给20多人的团队不限量 Token 使用 AI。 结论是: 人会更累,AI 的成本比人还高; 效率提升最大的是组织从 0 到 1 使用 AI; 公司的组织架构还是为人设计的,就算有无限 Token,效率提升上也有明显天花版; 人的思考都外包给 AI 了,对项目细节掌控度下降,需要问 AI 才能回复别人的问题。 美研芒格君 @Kay2289123 目前我在硅谷的 AI 训练/推理大厂带领一个 20 多人的团队,跟公司申请了预算100万美元,进行Token 不限量的激进实验, 这个帖子分享我在一线的使用认知和结论 结论是:Token 不限量不切实际,比人类贵很多,反而造成了在组织效率提升上,遭遇了明显的边际效益门槛。 我预计 AI 真正的上行空间不在于单个组织消耗 token 冲破天际线,而在于基本的大盘子从 0 到 1 开始到 AI token 使用 AI 现在无法落地,有很大一部分是因为我们的公司不够 AI native,整个组织架构还是为人而设计的。因此,AI 的无预算上线使用出现了水土不服 > 先说数据: 最多的成员单日花费 Token $7,000,团队中位数 $2,000。大家最喜欢的模型是 GPT-5.6 Sol Fast 和 Fable 5 Fast。算下来超过了大部分人的月工资,不可持续 > 今天跟团队每个成员都 1 对 1 过,说几个共性问题 1. 团队成员普遍反映比之前更累,真的很累,工资没变,干的活反而更多 在等待推理过程中,团队成员中位数大概会开 5 个 session 并行去使用,context 不断地转换,这对于人脑是一个很大的挑战 此外,人类去 review AI 产生的大量工作,也带来了非常大的负担 2. 未必所有工作都需要贵模型。模型路由非常关键,但便宜模型未必真的便宜 成员通常会将一些更偏向于快问快答、前期调研的任务交给 Grok 4.5(便宜、快)。虽然等待时间更短,但来回反复的次数更多。很多贵模型一次能完成的事情,便宜模型要来回迭代,再加上之前多个 session 并行,反而造成了一种负担。总的调用量换算成价格,甚至比贵模型更贵 3. 团队的会议数上个月环比减少了将近 80%,整个团队好像变成了 AI 跟 AI 在对话工作 很多团队成员将自己的大脑都托管给 AI 了,因此有的时候对项目的细节掌握度、理解度都不够。 在会上别人问什么问题,人类完全无法 real-time 回答,所以更多地变成了 offline 的沟通方式——因为在 offline 情况下,收到问题之后才能去问 AI,然后再进行回答 个别情况下,群里出现了 AI 一通乱答,对面的 AI 再一通乱答,两个人直接聊偏的情况 🔗 View Quoted Tweet 💬 1 🔄 0 ❤️ 3 👀 759 📊 1 ⚡