RL-Kernel 集成 vLLM：Qwen3-8B 训练与推理 logprob 逐位一致
用 vLLM 做 RL 训练的老大难——训练和推理数值对不上，这次在 AMD MI300X 上真做到了逐位一致，做 RL 的都该看看。
#AMD MI300X
共 4 条 · 7 天 0 条 · 30 天 1 条
信息流里打上「AMD MI300X」标签的资讯、产品与论文，按刊登时间排，新的在上。
9月25日
6月22日
MoonMath AI 开源 HIP 注意力内核，在 AMD MI300X 上全面超越 AITER v3
MoonMath 开源了一个注意力内核，能在 AMD MI300X 上全面碾压官方 AITER v3，速度更快，所有形状都更强，值得跑推理的人试试。
5月30日
Kog AI 实现 3000 tokens/s 推理速度，10-30 倍提升
Kog AI 把 GPU 推理的隐藏效率瓶颈挖出来了，做 LLM 推理优化的开发者可以直接关注他们的技术预览，看看 monokernel 和延迟张量并行能否复现到自己的模型上。
5月29日
Kog@AI 实现 3000 tokens/s 推理速度，8×AMD MI300X 跑 2B 模型
Kog@AI 把推理速度从 300 拉到 3000 tokens/s，做模型部署和推理优化的团队值得研究他们的内存流方法，直接看原文能学到如何消除 GPU 瓶颈。