OpenAI和博通搞定了自己的推理芯片Jalapeño,性能对标英伟达Blackwell,年底就用上,未来还有多代迭代。
OpenAI与博通联合设计的定制AI推理芯片Jalapeño首次公开,性能声称可与英伟达Blackwell和谷歌TPU媲美。该芯片专为大语言模型优化,已完成与GPT-5.3-Codex-Spark模型的测试,功耗和性能达标。芯片由台积电制造,设计周期仅9个月,计划2024年底前内部部署,不对外销售。配套服务器由天弘科技生产,内存由SK海力士和三星供应。
OpenAI、博通联手打造的 AI 芯片 Jalapeño 首秀,号称媲美英伟达 Blackwell
IT之家 6 月 24 日消息,北京时间今晚(24 日),OpenAI 首次对外展示与博通联合设计的定制 AI 芯片 Jalapeño,希望通过自研芯片加快算力基础设施建设,并 降低对英伟达 GPU 的依赖 。 OpenAI、Anthropic 等 AI 实验室面临共同难题:聊天机器人和编程应用需要大量算力,但可获得的计算资源仍然不足。OpenAI 因此转向开发自有芯片,希望降低运行成本,同时为 AI 行业普遍采用的英伟达 GPU 寻找替代方案。 Jalapeño 由 OpenAI 工程师和博通 共同设计,主要用于 AI 推理。博通 CEO 陈福阳接受路透社采访时称,Jalapeño 的性能 可与英伟达 Blackwell 芯片和谷歌 TPU 相媲美 。 OpenAI 硬件主管 Richard Ho 表示,Jalapeño 专门针对大语言模型进行优化 ,可以更快、更高效地运行支撑各类 AI 应用的模型。“我们认为,Jalapeño 也能适应未来各种版本的大语言模型,并保持良好性能。” OpenAI 计划在 今年年底前正式部署 Jalapeño。据悉,首款芯片只是起点,后续还将推出多代自研芯片。 据IT之家了解,配套的服务器系统天弘科技将负责生产。芯片和服务器系统均不会对外销售, 只供 OpenAI 内部使用 。 OpenAI 实验室已有 Jalapeño 样品投入测试。搭配 GPT-5.3-Codex-Spark 模型运行时,样品的 功耗和性能均达到设计目标 。 据IT之家了解,OpenAI 工程师 只用约 9 个月 便完成芯片设计,随后把设计交给台积电进行制造。AI 也参与了 Jalapeño 的开发流程,帮助工程师加快部分设计工作。 不过,定制 AI 芯片目前未必能为博通带来最高利润。陈福阳表示,AI 热潮推高了内存需求,博通定制芯片的利润率因此 低于网络交换机等其他芯片产品 。 AI 芯片需要配备大量 HBM 内存,从而进一步挤压博通定制 AI 芯片业务的利润空间。陈福阳还透露,博通使用的内存芯片由 SK 海力士和三星电子供应。