产品多源确认精选

Microsoft 发布第三代 AI 加速芯片 Maia 300,采用 chiplet 架构

精选理由

微软自研芯片出到第三代了,Maia 300 用 chiplet 加 HBM4,token 产出是上代 7 倍,每瓦性能高 2.5 倍,直接对标 GPU 成本。

Microsoft 发布第三代自研 AI 加速芯片 Maia 300,延续 Maia 200 的 SDLA 架构并改用多芯片 chiplet 设计,配合 NUMA 内存布局和 MXFP4 低精度格式。内存带宽升级到 HBM4 的 18 TB/s,是 HBM3E(7.1 TB/s)的 2.5 倍。每个机架可容纳的 Maia 数量从 48 个增加到 96 个,功耗保持在 167 kW。整体结果是 Maia 300 的 token 产出达到 Maia 200 的 7 倍,每瓦性能提升 2.5 倍,计划 2027 年投入使用。

原文 · Blognone

Microsoft เปิดตัว Maia 300 ชิปเร่งความเร็ว AI รุ่นที่สาม สถาปัตยกรรม Chiplet Body ไมโครซอฟท์เปิดตัวชิปเร่งการประมวลผลปัญญาประดิษฐ์ Maia รุ่นที่สาม Maia 300 ตามหลัง Maia 100 ที่เปิดตัวปี 2023 และ Maia 200 ที่เปิดตัวต้นปี 2026 ซึ่งตอนนี้ถูกใช้งานระดับโปรดักชันกับบริการหลายๆ ตัว เช่น Copilot แล้ว Maia 300 เป็นการอัพเกรดจาก Maia 200 โดยสร้างโทเคนได้มากกว่ากัน 7 เท่าเทียบกับ Maia 200 และประหยัดพลังงานกว่าเดิม โดยนับเป็นโทเคนต่อเมกะวัตต์ จะดีขึ้น 40% เทียบกับการใช้งานจีพียู ไมโครซอฟท์เรียกสถาปัตยกรรมของ Maia 200 ว่า Software Defined Locally Accessed Dataflow Architecture (SDLA) เริ่มจากการสังเกตวิธีเคลื่อนย้ายข้อมูลในระบบ AI สมัยใหม่ให้มีประสิทธิภาพ แนวทางของ SDLA คือการแยก control path ออกจาก data path แล้วให้ซอฟต์แวร์คอยทำหน้าที่จัดการตำแหน่งของข้อมูลให้มีประสิทธิภาพดีขึ้น Maia 300 พัฒนาสถาปัตยกรรมนี้ไปอีกขั้น เพื่อตอบโจทย์เรื่อง context ขนาดยาว, โมเดลที่เน้นหนักเรื่องการให้เหตุผล และการรันโมเดลที่เน้นการถอดรหัส (decode-heavy) แนวทางของ Maia 300 คือ ใช้ชิปหลายตัวมาต่อกัน (chiplet) ที่มีหน่วยความจำแบบ non-uniform memory access (NUMA) วางอยู่ใกล้ๆ เพื่อให้ข้อมูลอยู่ใกล้หน่วยประมวลผลที่สุด ใช้ฟอร์แมตข้อมูลแบบใหม่ MXFP4 ที่ความละเอียดลดลง (low precision) 1ขนาดแคบลง ลดการใช้หน่วยความจำ ลดการย้ายข้อมูล ช่วยให้รันโมเดลขนาดใหญ่ขึ้น มี context ยาวขึ้นได้ ใช้แรม HBM4 เพิ่มแบนด์วิดท์หน่วยความจำเป็น 18 TB/s หรือ 2.5 เท่า เทียบกับแรม HBM3E ที่ 7.1 TB/s เมื่อรวมพัฒนาการหลายอย่าง โดยเฉพาะเรื่องการประหยัดพลังงาน ทำให้สามารถอัด Maia ลงในแร็คได้มากกว่าเดิม 2 เท่า (จาก 48 ตัวเป็น 96 ตัว) ภายใต้กำลังไฟขนาด 167 kW เท่าเดิม ผลโดยรวมจึงออกมาว่า Maia 300 ผลิตโทเคนได้มากกว่ากัน 7 เท่าเทียบกับ Maia 200 (นับทั้งแร็ค) และมีประสิทธิภาพต่อวัตต์ดีขึ้น 2.5 เท่า Maia 300 จะเริ่มใช้งานจริงในปีหน้า 2027 ที่มา - Microsoft , Microsoft mk Mon, 12/10/2026 - 21:40