行业71°

微软 CEO 纳德拉警告:企业用 AI 可能反被模型供应商竞争

微软 CEO 纳德拉警告企业:你花钱用的 AI,最终可能会成为你的竞争对手

精选理由

纳德拉爆了个大实话:你给 AI 喂数据,它可能转头就抢你生意。他提议企业也能“蒸馏”模型来反制,科技圈该重新想想数据安全了。

AI 摘要

纳德拉在 7 月 12 日的博客中指出,企业使用 AI 时实际支付了两次费用:一次是明码的 token 费用,另一次是交出专有知识。他警告模型供应商可能从客户的使用痕迹中学习,包括提示词、工具调用和纠错经验,并利用这些知识开拓同类业务。纳德拉主张企业应有权对 AI 模型进行“蒸馏”研究,以打破模型厂商单方面利用客户数据却禁止逆向分析的不平衡。

原文 · IT之家

微软 CEO 纳德拉警告企业:你花钱用的 AI,最终可能会成为你的竞争对手

IT之家 7 月 14 日消息,据外媒 TechCrunch 今天(14 日)报道,硅谷围绕人工智能风险的争论持续无休,最让 AI 拥护者坐立不安的,却是大型 AI 实验室可能借专有模型充当“特洛伊木马”。 初创企业和大型企业把敏感资料喂给模型后,模型提供商便能 逐渐摸清客户的业务 ,还可能 利用积累下来的知识开拓同类业务,最终与客户直接竞争 。 当地时间 12 日,纳德拉在博客中警告,企业使用 AI 时其实 付了两遍钱 :一遍是明码标价的 token 费用,另一遍则是 在毫无察觉的情况下交出有价值的数据 。“你实际上付了两次钱,一次用金钱支付,另一次则用更加宝贵的东西支付,也就是为了让 AI 真正发挥作用而必须披露的专有知识。 你越希望模型表现得更好,就越需要向模型提供更多知识 !” 企业为了让模型更懂自身需求,实际上正在 一点点把经营诀窍教给模型 。“模型会从‘使用痕迹’中学习,包括人们输入的提示词、智能体调用的工具,尤其是模型犯错后人们给出的纠正。每一次纠正最终都会变成企业内部积累的经验。” 竞争对手无论花多少钱,都很难买到同样的经验,企业却在使用模型的过程中 主动把经验交了出去 。纳德拉因此主张,AI 企业既然可以抓取互联网内容训练模型,企业也应当有权反过来 研究并“蒸馏”AI 企业的模型 。 IT之家注:所谓“模型蒸馏”,就是分析一个模型给出的答案,从中摸清模型如何工作,再据此训练成本通常更低的新模型。 纳德拉的核心观点是,模型提供商不能只允许自己利用别人的数据。模型提供商可以 用全世界的数据训练模型 ,却不准其他人以类似方式研究其模型,显然是双标行为。“模型提供商拥有合理使用公共数据训练模型的权利,由此带来的重大创新确有必要,但目前的做法却是转过头来限制模型蒸馏,我认为很讽刺。” 纳德拉尤其警惕模型提供商在服务条款中“保留从客户使用数据和互动数据中学习的权利”。