Fal、Together、Baseten 这些靠租 GPU 做推理服务的公司,现在开始自己买 Nvidia 芯片了。算力越来越难租到,说明推理这条赛道的成本和供应格局在变。做部署的朋友可以看看别人怎么重新算这笔账。
Latest
NVIDIA 的 Jensen Huang 被罢免前几周的采访录像流出,他当时就在谈自己会被换掉、继任者得靠竞争上位。想看一家巨型芯片公司掌门人如何谈论权力交接,可以去 Bloomberg Originals 看完整视频。
Retell 只融了 460 万美元就做到 1 亿美元年化收入,每美元融资赚 20 多美元,而 Sierra 和 Decagon 分别烧了 9.5 亿和 2.5 亿。创始人先自己干一遍活、再把重复动作做成产品的思路,对所有创业者都有参考价值。
安全圈刚爆的实锤:一个 7 月才挂上 GitHub 的免费 AI 黑客框架 ARTEX,11 天就被用来打了 200 多家机构。做安全或管基建的朋友值得看看 CrowdStrike 这份报告,了解攻击者现在怎么用开源 AI 提效。
Hardware vendors co-funding a single open-source inference engine reduces the risk that serving optimizations remain locked to one chip ecosystem, which matters for teams planning multi-vendor GPU fleets. Engineering leads running large-scale inference can track the consortium's roadmap to anticipate support for new models and distributed serving features. Organizations in Southeast Asia building inference capacity on heterogeneous hardware will benefit from upstream optimizations landing in SGLang rather than vendor-specific forks.
OpenAI 这次没掏出大家念叨的 GPT-6.2,有人因为 Codex 的一些迹象押注落空了。不过发布的东西本身升级不小,搞开发的可以先上手测测,别光盯着版本号等惊喜。
Prime Intellect 把推理流量全接到 OpenRouter 上,一年内月 token 用量从 11B 冲到 1T+,单 token 成本还降了约 60%。做应用的朋友可以看看多模型路由怎么帮你切换供应商、压成本,不用再对接每家 API。
a16z的游戏投资人Jon Lai在这期播客里算了笔账:GTA6做了13年,AI能不能砍到2-5年。聊到mod社区怎么孵化十亿美元级IP、小众品类怎么复活,做游戏或关注游戏投资的人都该听听。
Bindu Reddy把Gemini Hydrogen和Sonnet的价格、速度摆在一起对比,还说OpenAI的Astra 6.2迟迟不发让她开始担心。做模型选型的开发者可以看看这个价格差,关注OpenAI动态的人也值得看一眼她的判断。
X 上有人放出一个未发布模型的基准截图,说接近 Anthropic Mythos 5.2 的两倍,但模型名和分数都没公开。截图没法核验,先当八卦看,选型还是等官方数据。
PyTorch 官方把北美 2026 大会的 146 场演讲视频全放出来了,vLLM、DeepSpeed、Ray 这些项目的作者亲自讲训练和推理优化,做工程的人可以挑 kernel 和推理那几场看,比零散博客系统多了。
中国 AI 公司跑到硅谷家门口挖人了,但对方股权包能开到 100 万美元以上,怎么抢?这篇讲清楚了它们靠什么吸引 OpenAI、Anthropic 的工程师,在湾区找机会的人值得看看行情。
OpenAI 开了场叫「Cyber at frontier」的直播,网友在猜是不是要放 GPT-6.2 Astra。官方还没给确认,先看看直播里到底讲什么再说。
SF Research 出来回应最近 AI 和数据中心惹的争议,还聊了他们怎么看开源降本这条路线。如果你在关注大厂怎么应对社区反弹、开源策略会不会成为主流玩法,这条短推是个风向标,适合行业观察者快速扫一眼。
AIE CODE 收官日阵容挺有意思:jxnlco 现在在 OpenAI、mitsuhiko 也在讲,Warp 的 CEO Zach Lloyd 也来。做 AI 编程工具或工程化落地的人可以看看直播回放,尤其关注 jxnlco 那场。
a16z 三位投资人写了一篇 AI 与游戏的框架分析,把机会拆成新旧游戏、降本还是创新四个象限。做独立游戏或游戏工具的人可以拿来对照自己的项目定位。
美国国会层面直接点名 Nvidia,要求换掉优先级——这在芯片出口争端里很少见。做芯片、做跨境合规、或关注中美供应链的团队,这条声明的措辞值得仔细看。
AIE 会议上 Lydia Hallie 的 talk 一晚上就冲到 20 万播放,破了他们开幕日的纪录。做技术内容或社区运营的可以研究下为什么这条能这么快传播,开发者圈的朋友应该也熟悉她的可视化讲解风格。
越南的 FPT Software 拿下了 Microsoft Frontier 智能体方向的高级专业认证,是全球第一家。想在企业里用 Azure 生态部署 AI 智能体的团队,选服务商时可以把它当资质参考。
做 MLOps 的朋友可以关注下:Kubeflow 正式从 CNCF 毕业了,NVIDIA、Apple、AWS 的人都在台上给它背书。如果你的训练任务跑在 Kubernetes 上,配合 PyTorch 和 DeepSpeed 这套组合的稳定性又多了一层保证。
政府用 AI 办事效率高,但出错影响的是公民权益。这篇报道讲了各国政府部署 AI 时怎么处理问责和隐私问题,还对比了东南亚市场的做法,做政务或出海服务的团队可以参考。
The 200 kW-per-rack threshold marks a shift from air cooling to fully engineered liquid-cooled racks as a prerequisite for hosting NVIDIA's densest platforms. AI infrastructure teams and GPU cloud buyers should study the pump and heat-exchanger sizing approach, since cooling reliability now determines whether a provider can offer Vera Rubin capacity at scale. Teams planning data center builds for NVL72-class systems get a concrete reference for what Mission Control-style rack orchestration must handle.
OpenAI 把 FDE 岗位做成了客户驻场交付角色,跟只在办公室写 demo 的传统岗位不一样。想做 AI 落地工程师、或者正在招这类人的团队,都能从 OpenAI 的做法里找到参照。
Claude 背后的 Anthropic 要上市了,11 月 19 日挂牌,发行价区间 70 到 120 美元。想在上市前拿份额的散户可以找参与券商申购,比等二级市场快一步。关注 AI 公司估值的投资人值得看下细节。
旧金山这场 AI 工程师编程峰会人坐满了,大家真带着笔记本现场敲代码,第三天还在继续。做 agent 和编程助手的开发者可以去看看现场都聊了什么工具。
a16z 的 Jon Lai 和 Anish Acharya 聊 AI 做游戏:开发周期缩短、mod 催生十亿美元系列、玩家用 Minecraft 复刻《Ghost of Tsushima》。做游戏或关注 AI 创作工具的都值得听,章节时间戳齐全,可以直接跳到 RTS 式管理 agents 那段。
GPU 云服务商抢着上线算力,安全却可能被跳过了。Lisa Thiergart 直接说这种做法鲁莽,想想你的训练数据和权重都放在别人机架上。自己租算力的开发者应该听一听。
The Information 挖出的独家细节:DeepSeek 员工帮做黑市 Nvidia 芯片生意的公司进了自家 158 亿美元融资轮,还用 SPV 隐藏股东身份。关心算力供应和美国出口管制实际效果的人都该看看。
Nvidia 是全球市值第二的公司,黄仁勋掌舵三十多年,突然换人性质完全不同。由 CFO Colette Kress 临时接任,说明还没定接班人。做 AI 采购、持股 Nvidia 或者关注芯片供应链的都该看一眼。
Nvidia 把 Jensen Huang 换掉了,理由和外国情报调查有关,这剧情够离谱。更实际的是新 CEO 要决定 Anthropic 那 100 亿认购还投不投,AI 圈的资本格局可能跟着变。关心芯片公司和 Anthropic 上市的都该看看。
这段话出现在上市文件里挺少见——公司直接承认会为了安全接受落后。对比 OpenAI 一路高歌猛进的节奏,Anthropic 把安全写进招股书更像是在给监管和投资者打预防针。关注模型发布节奏和安全策略的人都该看看原文。
Anthropic 上市路演里信息量不小,最硬核的一条是 Claude 三天搞定模型在 AMD 芯片上的适配,以前要几十个工程师干几个月。对比 OpenAI 还没上市的节奏,这份披露很值得细看,想了解 Claude 实际能力的开发者别错过。
干推理托管的都该看看这条:Fireworks 被黑根子在小云商的安全短板,Baseten、Modal、Fal 也用同类 neocloud,已经有客户想迁去大云或自建机房。做基础设施选型的团队可以对照检查一下自己的供应链。
Google 今天又发新东西了,博主 kimmonismus 在 X 上发了条提醒。帖子本身没给细节,但如果你在追 Google 这波密集更新,这条可以当个线索,去官方渠道看看具体发了啥。
11 月 17 日在香港的这场圆桌请了三位真在做 AI 视频的创作者,聊从创意到成片的完整流程。不是厂商讲 PPT,而是讲 agentic 系统怎么进实际制作管线。做短视频和广告内容的团队可以关注。
百度在 Baidu World 收官时放出一句话预告:Apollo Go 无人出租车要去 Dubai。没有细节,但方向明确——想在百度无人车出海中东这件事上抢个先,可以先记下这条线索。
百度把自研芯片路线图直接摆上台面:M100 现在就能买来跑推理,M300 等 2027 年。做推理业务、关心算力成本的朋友可以看看,这是国内少有的能对齐英伟达的选项。
240亿美元砸在得州边境建超算,还自带电厂,跟OpenAI的Stargate和xAI的Colossus是同一个量级的算力竞赛。做AI基础设施或关注算力布局的人值得看看,分期建设和就业数字都披露得挺细。
SpaceX 要在亚利桑那建 500 亿美元的超算园区,直接挨着电站盖,9 栋楼分四期。做算力基建或看 AI 能源问题的都该了解这单规划细节。
Nvidia 内部原来也不是铁板一块:CFO Kress 拦下了 Jensen 主推的给 OpenAI 的 2500 亿信贷担保,现在她还当上了临时 CEO。想知道 Nvidia 那些投资换订单的生意到底有多激进、谁在踩刹车,这篇值得花十分钟看看。
Only the latest 2000 items are listed; for older ones see the daily archive