精选理由
字节跳动自研CPU说明AI智能体正在重塑芯片需求格局,做大规模AI部署的团队值得关注——CPU不再是配角,而是成本与供应链的关键。
据路透社报道,字节跳动正在开发自己的AI数据中心CPU,以应对TikTok规模下AI智能体运行对稀缺服务器处理器的需求。受Groq的“语言处理单元”启发,字节跳动同时测试Arm和RISC-V架构,在成熟商业设计和更可控的开源指令集之间做比较。市场CPU价格每季度上涨10%-35%且供应延迟,自研芯片成为成本和供应链策略。此举旨在减少对受限外国AI硬件的依赖,并降低每次查询的推理成本。更深层的变化是,AI智能体正将CPU变成战略芯片,因为智能体推理对CPU压力更大,一个用户请求会触发多个小步骤。字节跳动似乎没有内部芯片设计团队,依赖外部合作伙伴进行制造。
AI 翻译 · 中文
据路透社报道,字节跳动正在开发自己的AI数据中心CPU,以应对TikTok规模下AI智能体运行对稀缺服务器处理器的需求。受Groq的“语言处理单元”启发,字节跳动同时测试Arm和RISC-V架构,在成熟商业设计和更可控的开源指令集之间做比较。市场CPU价格每季度上涨10%-35%且供应延迟,自研芯片成为成本和供应链策略。此举旨在减少对受限外国AI硬件的依赖,并降低每次查询的推理成本。更深层的变化是,AI智能体正将CPU变成战略芯片,因为智能体推理对CPU压力更大,一个用户请求会触发多个小步骤。字节跳动似乎没有内部芯片设计团队,依赖外部合作伙伴进行制造。
Reuter: ByteDance is building its own AI data-center CPUs because running agents at TikTok scale now depends on scarce server processors, not only Nvidia GPUs. inspired by Groq's "language processing units," they are tes…