AITOP

TPU

共 27 条相关 AI 资讯
8月24日
01:19
01:19elvis@omarsar0
Jacob Peake分享一篇关于AI芯片架构的长篇博客，涵盖NVIDIA、AMD、TPU、Trainium、Cerebras、Groq等主要架构，分析架构、扩展（向上扩展和向外扩展）和软件堆栈，帮助理解架构及其权衡。
论文AI芯片架构NVIDIAAMD
事件专题
推荐理由：想要了解AI芯片架构全景的朋友，强烈推荐阅读Jacob Peake的这篇博客，内容详实，对架构和权衡有深入分析。
原文
8月22日
08:53
8月19日
22:45
8月7日
05:12
05:12官方账号Decoder@Matthias Bastian
前DeepMind CEO Demis Hassabis已退出日常管理约一年，自称更愿做科学家而非管理者。研究人员抱怨难以获得Google自研TPU芯片的访问权限，而Anthropic等外部客户可通过Google Cloud购买相同硬件。人才流失或与芯片短缺、利益冲突及Google内部官僚体系有关。
行业DeepMindGoogleTPU
事件专题
推荐理由：这篇分析把DeepMind人才流失的原因说透了：不是待遇，是芯片不够用、自家优势外流和Google流程拖后腿。
原文
7月31日
09:11
09:11官方账号Jeff Dean@JeffDean
精选
谷歌首席科学家Jeff Dean在YC Startup School 2026上回忆与Sanjay Ghemawat在2001年发现整个搜索索引可放入RAM，随即几天内实现快速搜索。2013年，他通过计算用户每天三分钟语音识别所需算力，发现需翻倍服务器数量，由此激发TPU的诞生。访谈还讨论了AI代理可运行数周、上下文工程成为前沿、以及为什么AI本质是能源问题。Dean强调两个人在一个房间里仍能击败大公司，并分享了成为AI原生创始人的路径。
行业Jeff DeanGoogleTPU
事件专题
推荐理由：Jeff Dean讲了Google当年靠餐巾纸算出了TPU和搜索加速的故事，还给出了初创公司能从哪些角度赢Google，挺有启发。
原文
05:50
05:50Y Combinator@ycombinator
82°
在 Startup School 2026 上，Google 首席科学家 Jeff Dean 回顾了 2001 年他和 Sanjay Ghemawat 将整个 Google 搜索索引装入 RAM 的决策，使搜索速度大幅提升。他还提到 2013 年一张餐巾纸上的计算显示，每天每人三分钟语音识别需要 Google 双倍服务器，这催生了 TPU。访谈讨论 AI 模型是否已是初级工程师、AI Agent 可运行数周、推理硬件将成为下一个专业化方向，以及两三人团队如何依然能击败 Google。
行业GoogleTPUJeff Dean
事件专题
推荐理由：看看 Google 首席科学家 Jeff Dean 亲自讲 TPU 是怎么从一张餐巾纸上的数学计算变成现实的，还有他给 AI 创业者的灵感——小团队依然能赢。
原文
7月27日
11:00
7月22日
10:48
7月21日
10:59
02:15
02:15官方账号Decoder@Matthias Bastian
精选
Google正在开发代号为Frozen v2的服务器芯片，直接将Gemini模型架构固化到硅片中。内部消息称，其推理效率比现有TPU高6至10倍。该芯片计划于2028年推出，旨在大幅降低AI推理成本，使Google在定价上获得相对于OpenAI和Anthropic的优势。
AI产品GoogleGeminiFrozen v2
事件专题
推荐理由：Google搞了个叫Frozen v2的芯片，直接把Gemini架构做到硬件里，效率比TPU快6到10倍，预计2028年上线，成本优势可能让它在和OpenAI、Anthropic的竞争中更便宜。
原文
7月20日
22:12
7月14日
15:54
7月5日
20:45
20:45IT之家（博客/媒体）
精选73°
谷歌2025年环境报告显示，因快速扩展AI基础设施，公司用电量同比增长37%，创历史新高。但通过提升能源效率和扩大可再生能源使用，运营碳排放同比下降2%。谷歌数据中心能源利用效率约为行业平均水平的1.83倍，2025年新增签署超12GW可再生能源采购协议，累计签订超240份绿电合同、总装机约35GW。公司称凭借优化方案，2025年避免约5800万吨二氧化碳排放，且连续九年实现100%可再生能源电力匹配。
行业谷歌AI基础设施可再生能源
推荐理由：谷歌用电飙涨37%但碳排放反降2%，靠能效和绿电做到了‘脱钩’，还帮用户省了4100万吨碳，数据很扎实。
原文
6月30日
22:54
22:54IT之家（博客/媒体）
精选
中昊芯英发布新一代全自研TPU芯片「须臾」，单芯片混合精度浮点算力达896TFLOPS，是上一代芯片「刹那」的3倍。8-bit推理算力达1792TOPS，适配高并发推理场景。单卡额定功耗600W，比传统算力芯片降低50%，支持超长上下文。同步推出智算平台「泰则2.0」，搭载两路CPU与8片TPU，算力达7.168P混合精度，整机能耗仅为传统GPU服务器的80%。平台兼容PyTorch、vLLM、DeepSpeed等主流框架，已完成Qwen、DeepSeek等数十款大模型适配。
AI产品中昊芯英须臾TPU
推荐理由：中昊芯英发了新TPU芯片「须臾」，算力是上一代3倍，功耗反而降一半，全自研无依赖，适合政务金融等安全场景。
原文
6月24日
14:15
6月19日
03:46
6月18日
04:27
6月12日
07:35
07:35IT之家（博客/媒体）
据科技媒体 The Information 报道，谷歌正与三星晶圆代工部门洽谈，计划由三星 2nm 工艺代工其下一代 TPU v10 芯片的 I/O Die 部分。谷歌 TPU 与博通联合设计，计算引擎仍由台积电生产，而内存输入输出芯片可能转交三星。此前三星已为谷歌第七代 Ironwood TPU 提供超 60% 的 HBM 内存。若合作达成，谷歌可进一步降低 TPU 成本——其当前性能与英伟达 H100 相当，但成本已低约 80%。此举可能重塑 AI 半导体供应链格局，减少对单一代工厂的依赖。
行业谷歌三星TPU
推荐理由：谷歌 TPU 成本优势已让英伟达紧张，若三星 2nm 代工落地，AI 芯片供应链将更分散——做 AI 基础设施的团队值得关注这一变局。
原文
6月8日
22:50
22:50rohanpaul_ai@rohanpaul_ai
据 The Information 报道，Google 已选择 Intel 为其制造超过 300 万颗 TPU 芯片，计划于 2028 年交付。这对 Intel 的晶圆代工业务是一次重大胜利，使其成为 NVIDIA 主要 AI 竞争对手的工厂。由于 AI 热潮导致芯片需求激增，台积电产能紧张，多家 AI 芯片设计公司转向 Intel 作为第二供应商，以降低供应链风险。此举对 Google、NVIDIA、Apple、Tesla 等公司而言，意味着供应链多元化的重要进展。
行业GoogleIntelTPU
事件专题
推荐理由：AI 芯片供应链正在重构，做 AI 基础设施或依赖 GPU/TPU 的团队值得关注——Intel 代工崛起可能改变未来芯片成本和供应格局。
原文
6月4日
11:15
11:15IT之家（博客/媒体）
科技媒体 Wccftech 报道，Marvell（美满电子）近期获得谷歌 TPU 定制网络芯片设计订单，该芯片用于连接多个 ASIC 构建同步计算集群，协调数据流与处理拥塞。由于台积电先进节点产能紧张，该芯片可能采用英特尔 18A 或 18AP 制程，预计 2027 年底量产。此前英伟达 CEO 黄仁勋曾预言 Marvell 将成为下一个万亿美元公司，消息后其股价大涨 25%。这一订单标志着 Marvell 在 AI 数据中心网络芯片领域的重要突破，也反映了谷歌对定制化 AI 基础设施的持续投入。
行业Marvell谷歌TPU
推荐理由：AI 数据中心网络芯片需求激增，做 AI 基础设施或芯片设计的团队值得关注 Marvell 的布局——黄仁勋的预言和谷歌的订单都是信号。
原文
5月21日
00:10
5月19日
10:45
10:45IT之家（博客/媒体）
精选72°
谷歌与全球最大私募股权集团黑石合作，计划在美国成立一家新的AI云公司，初期黑石投入50亿美元股权资本，整体计算投资规模预计约250亿美元。新公司将依托谷歌自研TPU芯片和云能力，挑战CoreWeave等AI算力服务商，被视为谷歌最大规模的对外芯片商业化尝试。目标是在2027年上线500兆瓦容量，相当于一座中等城市的用电需求。此举将加剧谷歌与英伟达在AI算力市场的竞争，黑石作为AI基础设施领域最活跃的投资方之一，已拥有超过1500亿美元数据中心资产。
行业谷歌黑石AI云
推荐理由：谷歌终于把TPU推向外部市场，做AI训练和推理的团队将多一个算力选择，值得关注这个250亿美元级别的云服务新玩家。
原文
5月14日
13:37
13:37
13:37官方账号Jeff Dean@JeffDean
精选
Google Translate 迎来20周年，Jeff Dean 回顾了其关键里程碑：2006年首次部署基于5-gram语言模型的系统，使用了万亿词级训练数据，是早期大语言模型实践；2016年转向深度神经网络，结合序列到序列模型和自研TPU，推理性能提升30-80倍，延迟降低15-30倍，使服务可覆盖数亿用户；近期又借助Gemini模型进一步优化。这些技术迭代持续提升了翻译质量和全球连接性。
AI产品Google Translate机器翻译大语言模型
推荐理由：Jeff Dean 亲自梳理了 Google Translate 从统计方法到神经网络的两次关键跃迁，做 NLP/翻译系统的开发者能从中看到技术选型的真实演进逻辑，值得一读。
原文
5月13日
00:33
00:33官方一手Google Developers Blog（博客/媒体）
TorchTPU是Google为TPU打造的原生PyTorch运行栈，旨在最小代码改动下实现高性能分布式训练。它采用“Eager First”模式，并利用XLA编译器优化集群训练。项目计划在2026年进一步降低编译开销，支持动态形状和自定义内核，以支持下一代AI模型的扩展。
AI产品TPUPyTorchXLA编译器
推荐理由：TorchTPU让PyTorch用户能够更顺畅地迁移到TPU，同时保持Eager模式体验，这对需要TPU算力的大规模AI训练场景有直接价值。
原文
00:33
00:33官方一手Google Developers Blog（博客/媒体）
Google的MaxText框架现在支持在单主机TPU上进行监督微调（SFT）和强化学习（RL），利用JAX和Tunix库实现高效模型优化。开发者可通过GRPO和GSPO等算法轻松调整预训练模型以适应专业任务和复杂推理。该更新简化了从单主机到多主机配置的微调流程，为后训练工作流提供了可扩展路径。
AI产品微调/RLTPUJAX
推荐理由：这表明Google正在降低TPU上高级模型微调的门槛，让中小规模团队也能在单主机TPU上应用RL算法进行后训练，对AI开发实践有实用价值。
原文
00:33
00:33官方一手Google Developers Blog（博客/媒体）
加州大学圣地亚哥分校研究者将DFlash（一种块扩散推测解码方法）成功部署到Google TPU上，通过单次前向传播“绘制”整个候选词块，绕过传统自回归逐步预测的顺序瓶颈。该系统在TPU上实现了平均3.13倍的加速，峰值性能接近现有EAGLE-3方法的两倍。该开源方案已集成至vLLM生态，利用TPU的免费并行验证和高品质草稿预测，显著提升复杂推理任务的效率。
AI模型推理加速推测解码TPU
推荐理由：这一工作展示了扩散式推测解码在TPU上的实际落地价值，突破传统推测解码的顺序瓶颈，尤其利好大规模LLM推理场景。开源集成至vLLM有助于行业快速采用。
原文