精选理由
微软用数据辟谣:一次AI查询耗电不到0.6瓦时,耗水不到0.07毫升,比想象中省得多。别为AI吃电喝水焦虑啦!
微软援引《Joule》研究指出,典型AI查询耗电0.16至0.60瓦时,相当于40瓦电脑运行15至60秒。该研究数据较此前文献低至1/4到1/20。冷却用水方面,保守估计下典型查询为0至0.067毫升,中位数约1/100茶匙,少于1滴水。微软表示10亿次查询场景下,基础耗电约0.7吉瓦时,优化后可降至0.3吉瓦时。
AI 翻译 · 中文
微软援引《Joule》研究指出,典型AI查询耗电0.16至0.60瓦时,相当于40瓦电脑运行15至60秒。该研究数据较此前文献低至1/4到1/20。冷却用水方面,保守估计下典型查询为0至0.067毫升,中位数约1/100茶匙,少于1滴水。微软表示10亿次查询场景下,基础耗电约0.7吉瓦时,优化后可降至0.3吉瓦时。
IT之家 6 月 16 日消息,微软昨日(6 月 15 日)发布博文,援引《Joule》研究指出, AI 在大规模部署下的能耗与用水量显著低于外界早前估计。 该研究认为在大规模推理场景下,外界对 AI 大语言模型的关注点,不应该只放在单个模型的训练 / 推理规模,更应该注重用户典型调用下的“每次查询”。 该研究指出一次常规典型 AI 调用,耗电 0.16 至 0.60 瓦时(watt-hours),约等于一台 40 瓦电脑运行 15 至…