RTX Spark真机亮相Bilibili World,CPU与GPU集成,笔记本可跑120B模型

老黄RTX Spark真机现身Bilibili World!CPU和GPU直接焊在一起,笔记本跑120B大模型

精选理由

老黄把CPU和GPU焊在一起了,笔记本就能离线跑120B的模型,想玩本地大模型可以关注这个新硬件。

AI 摘要

NVIDIA在ComputeX发布的RTX Spark芯片已在Bilibili World上展出真机。该芯片将CPU和GPU直接封装在一起,采用统一内存架构。在笔记本平台上,RTX Spark可运行120B参数的大模型,无需依赖云端。展示表明其AI推理性能接近桌面级GPU。

图片来源 · 量子位
原文 · 量子位

老黄RTX Spark真机现身Bilibili World!CPU和GPU直接焊在一起,笔记本跑120B大模型

老黄在ComputeX发布的“超级芯片”,已经在真机中落地了

  • AWS Machine Learning Blog07-10 15:35原文
  • Harrison Chase07-10 16:39原文
RTX Spark真机亮相Bilibili World,CPU与GPU集成,笔记本可跑120B模型 · AI 热点