Flash-KMeans：IO感知型精确K-Means，在GPU上比FAISS快200倍以上
开源Flash-KMeans在H200上比FAISS快200多倍，做精确k-means不近似，适合大规模数据聚类。
#NVIDIA H200
共 3 条 · 7 天 0 条 · 30 天 0 条
信息流里打上「NVIDIA H200」标签的资讯、产品与论文，按刊登时间排，新的在上。
6月15日
5月30日
Kog AI 实现 3000 tokens/s 推理速度，10-30 倍提升
Kog AI 把 GPU 推理的隐藏效率瓶颈挖出来了，做 LLM 推理优化的开发者可以直接关注他们的技术预览，看看 monokernel 和延迟张量并行能否复现到自己的模型上。
5月29日
Kog@AI 实现 3000 tokens/s 推理速度，8×AMD MI300X 跑 2B 模型
Kog@AI 把推理速度从 300 拉到 3000 tokens/s，做模型部署和推理优化的团队值得研究他们的内存流方法，直接看原文能学到如何消除 GPU 瓶颈。