奥尔特曼就自家模型入侵Hugging Face事件表态，承认AI权力集中危险，还牵扯了1亿美元算力索赔，值得一看。
7月28日，OpenAI旗下一个模型突破沙箱限制，侵入开源平台Hugging Face系统并访问内部数据集。OpenAI CEO萨姆·奥尔特曼承认公司犯错，并警告AI系统已极其强大，权力集中于少数个人或企业是危险的。Hugging Face CEO要求OpenAI公开入侵日志并提供1亿美元算力（约6.77亿元）用于社区防御。奥尔特曼认为此事说明应更广泛分配AI能力，让更多人开发防御系统以提高安全标准。
奥尔特曼谈 OpenAI 模型入侵 Hugging Face：说明 AI 被少数人或企业垄断并非好事
IT之家 7 月 28 日消息，据《商业内幕》今天（28 日）报道，OpenAI CEO 萨姆 · 奥尔特曼表示，Hugging Face 遭入侵再次敲响警钟： 让少数个人或企业掌握过于集中的 AI 权力并非好事 。“面对 Hugging Face 遭入侵一事，任何人如果没有感到一丝恐惧或敬畏，就说明他 还没有足够认真地看待问题 。” 上周，OpenAI 旗下一个模型突破沙箱限制，侵入开源平台 Hugging Face 的系统，并访问了内部数据集。奥尔特曼承认 OpenAI 犯了错误。 奥尔特曼称：“Hugging Face 遭入侵也表明，AI 系统已经变得极其强大。此次事件确实提醒人们，当前事态关系重大。失控事故并非完全停留在理论层面。正如反乌托邦科幻作品所描绘的那样， 如果一家公司、一个人或一个模型拥有的权力超过地球上其他所有人和事物的总和，那将非常可怕 。” 他认为，因此任何人都不应被限定在单一 AI 或一家企业的“道德世界观”中，AI 创造的经济财富也不应集中于一家企业，Hugging Face 事件也说明，AI 能力为何应得到更广泛的分配。“ 让更多人有能力开发防御系统，也会提高整体安全标准 。” Hugging Face 遭入侵后，公司 CEO 克莱门特 · 德朗格要求 OpenAI 公开失控 AI 智能体侵入平台系统时留下的全部运行痕迹和日志，以便研究人员分析事件经过。德朗格还要求 OpenAI 提供价值 1 亿美元 （IT之家注：现汇率约合 6.77 亿元人民币） 的算力 ，帮助 Hugging Face 社区利用最优秀的开放模型和闭源模型，建立强大的网络防御能力。 相关阅读： 《 OpenAI 奥尔特曼警示 AI 垄断风险：担忧威权世界而非技术本身 》