AITP
精选全部 AI 动态AI 日报Agent 接入我的简报我的追踪阅读偏好内容方法关于更新日志信源提报反馈
外观
登录 / 注册
AITOP

多卡部署

共 1 条相关 AI 资讯
8月3日
15:29
15:29IT之家(博客/媒体)
英特尔今日宣布为开源多模态视频模型 MiniMax H3 提供 Day 0 首发支持,锐炫 Pro B70 已率先完成适配。团队实现多卡 GPU 部署方案,Encoder 采用 8 卡张量并行,DiT 采用 8 卡 USP 并结合 Layer-wise Offloading,VAE 部署于 B70 GPU。相比纯 8 卡 USP,新方案还开发了 2TP×4USP 混合并行,将 USP 并行度降至 4 并引入 2 路张量并行,以减少通信开销。该方案还结合 llm-scaler-omni 项目的 XPU Kernel 优化,对矩阵乘法、注意力等算子进行持续优化。
AI模型MiniMax H3Intel锐炫Pro B70
事件专题

推荐理由:英特尔把 MiniMax H3 跑在多卡 GPU 上,锐炫 Pro B70 首发支持,还搞了 2TP×4USP 混合并行,视频生成部署有参考了。
原文
精选全部日报登录