谷歌发布LiteRT.js,Web AI推理速度提升3倍

谷歌发布 LiteRT.js 库,Web AI 推理最高提速 3 倍

精选理由

谷歌出了个LiteRT.js,用WebAssembly让浏览器跑AI比TensorFlow.js快3倍,尤其在M4 MacBook上效果明显。

AI 摘要

谷歌推出LiteRT.js库,基于WebAssembly并利用WebGPU与WebNN硬件加速。该库旨在替代TensorFlow.js的JavaScript内核方案。在搭载M4芯片的2024款MacBook Pro上,LiteRT.js推理速度较现有方案提升3倍。谷歌表示在旧硬件或不同引擎浏览器上性能可能存在差异。

AI 翻译 · 中文

谷歌推出LiteRT.js库,基于WebAssembly并利用WebGPU与WebNN硬件加速。该库旨在替代TensorFlow.js的JavaScript内核方案。在搭载M4芯片的2024款MacBook Pro上,LiteRT.js推理速度较现有方案提升3倍。谷歌表示在旧硬件或不同引擎浏览器上性能可能存在差异。

IT之家IT之家 7 月 10 日消息,谷歌昨日(7 月 9 日)发布博文,为提升浏览器人工智能(AI)及机器学习(ML)工作负载的运行速度, 推出全新的 LiteRT.js 库。 谷歌表示 LiteRT.js 采用 WebAssembly,并结合 WebGPU 与 WebNN 等硬件加速能力,用于替代 TensorFlow.js 所使用的 JavaScript 内核方案。IT之家附上相关截图如下: LiteRT.js 架构概述 WebAsse