Chinese contentAMD收购Taalas,模型刻入硅片提升推理性能
AMD 收了家芯片公司,把 Llama 模型刻进硅片跑推理,比 Nvidia GPU 快 48 倍,就是模型固定不能升级。
SuperTechFansSource
AMD 收了家芯片公司,把 Llama 模型刻进硅片跑推理,比 Nvidia GPU 快 48 倍,就是模型固定不能升级。
AMD买了家叫Taalas的初创,把模型权重直接烧进芯片,跑Llama 3.1-8B能到每用户每秒1.6万token,但一颗芯片只认一个模型。
AMD 要收购 Taalas,这家公司做定制 AI 推理芯片,比 GPU 快几千倍,但绑定单个模型,适合想了解 AI 芯片新路线的人。