#TPU
Anthropic 5180 亿美元算力账单细节曝光,八成闲置也要付,Broadcom 独占 1612 亿,创始人还设计了 IPO 后不受股东制约的投票结构。
Google 想把 TPU 送上天,用太阳能数据中心跑 AI,光 Starship 就要飞 1800 次,脑洞和工程量都够大。
Anthropic 直接下场租 1GW 数据中心装 TPU,算力获取从租云转向自持基建,400 亿美元的账单值得看看怎么算的。
Google 真在琢磨把 TPU 塞进卫星上天,太阳能发电效率是地面的 8 倍,原型都要搭 SpaceX 火箭发射了,脑洞和工程细节都值得看看。
Google 要把 TPU 装上卫星送上天,验证太空建数据中心的可行性,明年 10 月就发射,整个思路挺大胆的。
Google 把 4 块 TPU 塞进卫星,下周发射。看它能不能在太空跑 Gemini,也看太空数据中心这算盘打不打得响。
Google 要把 TPU 发上太空,2027 年两颗卫星用 800Gbps 激光链路组网,SpaceX 负责发射,脑洞挺大。
Kimi K3 在 TPU 上跑到 709 tokens/s,比 GB200 还快,92 个 MoE 层塞进一个 Pallas kernel,做法挺巧,做推理的可以看看。
Jeff Dean讲了Google当年靠餐巾纸算出了TPU和搜索加速的故事,还给出了初创公司能从哪些角度赢Google,挺有启发。
看看 Google 首席科学家 Jeff Dean 亲自讲 TPU 是怎么从一张餐巾纸上的数学计算变成现实的,还有他给 AI 创业者的灵感——小团队依然能赢。
Google的新研究发现,给模型喂对TPU文档,比堆参数管用。JAXBench测50个真实负载,结果很实在。
Google为Gemini专门做了芯片Frozen v2,能效是TPU的6-10倍,2028年上线。把部分计算固化到硅片,思路挺实用。
Google搞了个叫Frozen v2的芯片,直接把Gemini架构做到硬件里,效率比TPU快6到10倍,预计2028年上线,成本优势可能让它在和OpenAI、Anthropic的竞争中更便宜。
谷歌搞了个 Frozen v2,专为 Gemini 模型定制,效率比现有芯片高 6 到 10 倍,还能更新权重。AI 芯片方向的新探索,值得关注。
LMSYS 和 InclusionAI 联手,用 SGLang-JAX 让 1T 参数 MoE 在 TPU 上跑得快 53%,技术细节都在博客里。
谷歌 TPU 成本优势已让英伟达紧张,若三星 2nm 代工落地,AI 芯片供应链将更分散——做 AI 基础设施的团队值得关注这一变局。
AI 芯片供应链正在重构,做 AI 基础设施或依赖 GPU/TPU 的团队值得关注——Intel 代工崛起可能改变未来芯片成本和供应格局。
AI 数据中心网络芯片需求激增,做 AI 基础设施或芯片设计的团队值得关注 Marvell 的布局——黄仁勋的预言和谷歌的订单都是信号。
Google 新一代 TPU 发布,AI 训练和推理性能再升级,做大规模模型训练或云服务的团队值得关注,看看 Jeff Dean 最兴奋的点是什么。
Jeff Dean 亲自梳理了 Google Translate 从统计方法到神经网络的两次关键跃迁,做 NLP/翻译系统的开发者能从中看到技术选型的真实演进逻辑,值得一读。
TorchTPU让PyTorch用户能够更顺畅地迁移到TPU,同时保持Eager模式体验,这对需要TPU算力的大规模AI训练场景有直接价值。