行业精选76°

字节跳动自研AI数据中心CPU,减少对英伟达依赖

Reuter: ByteDance is building its own AI data-cent…

精选理由

字节跳动自研CPU说明AI智能体正在重塑芯片需求格局,做大规模AI部署的团队值得关注——CPU不再是配角,而是成本与供应链的关键。

AI 摘要

据路透社报道,字节跳动正在开发自己的AI数据中心CPU,以应对TikTok规模下AI智能体运行对稀缺服务器处理器的需求。受Groq的“语言处理单元”启发,字节跳动同时测试Arm和RISC-V架构,在成熟商业设计和更可控的开源指令集之间做比较。市场CPU价格每季度上涨10%-35%且供应延迟,自研芯片成为成本和供应链策略。此举旨在减少对受限外国AI硬件的依赖,并降低每次查询的推理成本。更深层的变化是,AI智能体正将CPU变成战略芯片,因为智能体推理对CPU压力更大,一个用户请求会触发多个小步骤。字节跳动似乎没有内部芯片设计团队,依赖外部合作伙伴进行制造。

AI 翻译 · 中文

据路透社报道,字节跳动正在开发自己的AI数据中心CPU,以应对TikTok规模下AI智能体运行对稀缺服务器处理器的需求。受Groq的“语言处理单元”启发,字节跳动同时测试Arm和RISC-V架构,在成熟商业设计和更可控的开源指令集之间做比较。市场CPU价格每季度上涨10%-35%且供应延迟,自研芯片成为成本和供应链策略。此举旨在减少对受限外国AI硬件的依赖,并降低每次查询的推理成本。更深层的变化是,AI智能体正将CPU变成战略芯片,因为智能体推理对CPU压力更大,一个用户请求会触发多个小步骤。字节跳动似乎没有内部芯片设计团队,依赖外部合作伙伴进行制造。

rohanpaul_aiReuter: ByteDance is building its own AI data-center CPUs because running agents at TikTok scale now depends on scarce server processors, not only Nvidia GPUs. inspired by Groq's "language processing units," they are tes