AMD 卡跑 Kimi K3 吞吐反超 NVIDIA B300 四分之一,每美元 token 还多 87%,文中还有 vLLM 瓶颈排查套路,自己搭推理服务的可以看看。
#MI355X
5 stories · 1 in 7 days · 3 in 30 days
Stories, products and papers tagged "MI355X", newest first.
10月17日
Chinese contentAMD MI355X 在 Kimi K3 推理上性能超 NVIDIA B300 24.4%
9月25日
TileRT and AMD push GLM-5.3 to 469 tok/s decode on MI355X
A disaggregated prefill-decode split is becoming the practical recipe for low-latency serving, and this run shows AMD hardware competing at interactive agent speeds rather than just batch throughput. Developers benchmarking inference stacks should note that the V1 connector lets third-party decode engines plug into vLLM without forking the stack. The result also gives GLM-5.3 a concrete serving data point against US-frontier-model deployments on NVIDIA GPUs.
Chinese contentAMD 在 PyTorchCon 分享 MI355X 上 MXFP8 大规模预训练实践
AMD 的工程师讲怎么在 1000 多张 MI355X 上跑 MXFP8 预训练,TorchAO 加 TorchTitan 的完整方案,做训练的可以听听
7月28日
Chinese contentClaude 周末无人干预跑通 AMD MI355X,CUDA 生态被 AI 突围
Claude 自己一周末就调通了 AMD 新显卡,人类工程师全程没写代码。AMD 还给 AI 出了专用工具,以后换芯片可能跟装 App 一样简单。
7月20日
Chinese content神雲科技展示 52U 液冷机柜,集成 96 颗 AMD MI355X,GPU 密度较 48U 提升 50%
神雲出的 52U 机柜塞了 96 颗 MI355X,比 48U 多塞一半 GPU,还带液冷省电。想上高密度 AI 算力可以看看。
IT之家Source