How-to71°

开发者绕过限制,解锁M4芯片15.8TFLOPS AI训练算力

开发者绕过苹果软件限制,成功解锁 M4 芯片 15.8TFLOPS 的 AI 算力

Why we picked it

有个开发者自己写了一套代码,把M4芯片的AI训练能力全开出来了,不用苹果官方工具,跑到了15.8TFLOPS。想用iPad或Mac训练模型的人可以看看。

开发者@0x0SojalSec 绕过苹果M4神经网络引擎的软件限制,通过逆向工程使用自定义MIL(模型中间语言)直接与芯片通信,没有调用Core ML、Metal或GPU。

Body

训练数据全程放在RAM中运行,不写入NAND闪存,速度更快。解锁后M4在iPad或Mac上可达到15.

8TFLOPS的AI处理性能,用于训练模型。目前自定义MIL能否用于更新的Apple Silicon尚不明确。

Original · IT之家

开发者绕过苹果软件限制,成功解锁 M4 芯片 15.8TFLOPS 的 AI 算力

IT之家 6 月 16 日消息,苹果 M4 等芯片中的神经网络引擎原本只开放给推理使用,导致开发者可以运行预训练 AI 模型,却不能直接用来训练新模型。不过,X 用户 @0x0SojalSec 自称绕过了 M4 的软件限制,并对 M4 SoC 完成逆向工程。 整个过程 把数据都放在 RAM 中运行 ,因此速度非常快,体验也相当流畅。 @0x0SojalSec 今天凌晨在 X 上分享了一个 GitHub 代码库,展示如何 释放 M4 的完整潜力 。苹果并未开放直接与这些芯片通信的权限,因此其没有使用 Core ML、Metal 等苹果工具,也没有调用 GPU,而是 从零开发了一套自定义 MIL ((IT之家注:模型中间语言),用这套工具与 M4 进行通信。 由于 M4 的相关硬件能力遭到“锁定”,整个过程还需要一些变通手段。比如,训练进程卡住、需要重置后才能继续时,自定义 MIL 会调用“exec ()”命令,让进程重新启动并继续训练。这样一来,程序可以刷新当前状态,避免直接崩溃,同时继续学习。 @0x0SojalSec 表示,为了提高速度,解锁 M4 的过程 完全没有写入 NAND 闪存 。NAND 闪存写入速度较慢,而 RAM 速度更快,因此整个流程可以保持高速运行。突破软件限制后,iPad 或 Mac 中的 M4 可以达到 15.8TFLOPS 的 AI 处理性能 ,足以承担 AI 模型训练任务。 需要提醒的是,目前还无法确认同一套自定义 MIL 能否用于更新的 Apple Silicon,也无法确认 exec () 在新平台上能否按预期工作。

Industry Coordinates & Source Verification

This report is categorized under AITOP's "How-to" desk. Within our cross-regional analytical framework, it directly maps to AI developer toolchains, coding agents, and engineering workflows. Key entities and technical topics under continuous tracking include M4, Apple Silicon, 神经网络引擎, 模型训练.

Source attribution: curated from IT之家.