精选理由
老黄把CPU和GPU焊在一起了,笔记本就能离线跑120B的模型,想玩本地大模型可以关注这个新硬件。
NVIDIA在ComputeX发布的RTX Spark芯片已在Bilibili World上展出真机。该芯片将CPU和GPU直接封装在一起,采用统一内存架构。在笔记本平台上,RTX Spark可运行120B参数的大模型,无需依赖云端。展示表明其AI推理性能接近桌面级GPU。
原文 · 量子位
老黄RTX Spark真机现身Bilibili World!CPU和GPU直接焊在一起,笔记本跑120B大模型
老黄在ComputeX发布的“超级芯片”,已经在真机中落地了