技巧71°

开发者绕过限制,解锁M4芯片15.8TFLOPS AI训练算力

开发者绕过苹果软件限制,成功解锁 M4 芯片 15.8TFLOPS 的 AI 算力

精选理由

有个开发者自己写了一套代码,把M4芯片的AI训练能力全开出来了,不用苹果官方工具,跑到了15.8TFLOPS。想用iPad或Mac训练模型的人可以看看。

AI 摘要

开发者@0x0SojalSec 绕过苹果M4神经网络引擎的软件限制,通过逆向工程使用自定义MIL(模型中间语言)直接与芯片通信,没有调用Core ML、Metal或GPU。训练数据全程放在RAM中运行,不写入NAND闪存,速度更快。解锁后M4在iPad或Mac上可达到15.8TFLOPS的AI处理性能,用于训练模型。目前自定义MIL能否用于更新的Apple Silicon尚不明确。

AI 翻译 · 中文

开发者@0x0SojalSec 绕过苹果M4神经网络引擎的软件限制,通过逆向工程使用自定义MIL(模型中间语言)直接与芯片通信,没有调用Core ML、Metal或GPU。训练数据全程放在RAM中运行,不写入NAND闪存,速度更快。解锁后M4在iPad或Mac上可达到15.8TFLOPS的AI处理性能,用于训练模型。目前自定义MIL能否用于更新的Apple Silicon尚不明确。

IT之家IT之家 6 月 16 日消息,苹果 M4 等芯片中的神经网络引擎原本只开放给推理使用,导致开发者可以运行预训练 AI 模型,却不能直接用来训练新模型。不过,X 用户 @0x0SojalSec 自称绕过了 M4 的软件限制,并对 M4 SoC 完成逆向工程。 整个过程 把数据都放在 RAM 中运行 ,因此速度非常快,体验也相当流畅。 @0x0SojalSec 今天凌晨在 X 上分享了一个 GitHub 代码库,展示如何 释放 M4 的完