AITOP

CUDA

共 13 条相关 AI 资讯
8月17日
10:19
10:19官方一手arXiv: DeepSeek@Shiju Zhao, Jiacheng Yang, Qihang Chen, Junhao Hu, Jiaqi Zheng, Guihai Chen, Xusheng Chen
精选
CoRun是一个面向LLM推理的调度系统，通过隔离预填充和固定形状批处理解码实现确定性输出。相比现有batch-invariant内核方案，CoRun无需牺牲性能即可保证结果一致。在Qwen和DeepSeek等模型上，CoRun吞吐量提升15%至324%，首token延迟平均降低51.8%，每token输出延迟平均降低48.6%。其核心洞察是大多数内核虽非批次不变，但具有位置不变性。
论文CoRunQwenDeepSeek
推荐理由：这篇论文说用简单填充法就能让LLM推理结果确定，不用牺牲速度，比之前的方案快了不少，还在Qwen和DeepSeek上试过。
原文
8月13日
22:07
22:07官方账号NVIDIA AI@NVIDIAAI
精选77°
NVIDIA发布官方skills插件，Cursor智能体可调用300多项技能，覆盖CUDA、NeMo、RAG等30多个产品。开发者只需描述构建目标，插件会自动推荐并执行合适技能。该插件已上架Cursor marketplace，完整技能目录托管在GitHub。
AI产品NVIDIACursor智能体
事件专题
推荐理由：NVIDIA给Cursor出了个官方插件，装完你的智能体就会用CUDA和RAG这些技能了，搞开发更省事。
原文
8月5日
15:47
09:46
7月30日
00:08
7月28日
00:05
00:05IT之家（博客/媒体）
78°
Anthropic 团队仅用一名工程师将 Claude 接入 AMD MI355X 机架，经一个周末无代码修改即成功运行，性能曲线持续上涨。AMD 发布 ROCm.AI 工具集，包含 AMD Skills 和 Hyperloom，后者让 MiniMax M3 输出速度提升 38%。Anthropic 计划在 AMD Helios 系统部署最高 2GW Instinct GPU，首批 1GW 于 2027 年上半年启动。AI Agent 可直接读取芯片指令集并自动调优，将 CUDA 数十年的生态优势压缩为按任务追赶。
AI产品ClaudeAMDMI355X
事件专题
推荐理由：Claude 自己一周末就调通了 AMD 新显卡，人类工程师全程没写代码。AMD 还给 AI 出了专用工具，以后换芯片可能跟装 App 一样简单。
原文
7月26日
06:22
7月13日
10:59
7月9日
21:04
21:04IT之家（博客/媒体）
73°
法国竞争管理局官员确认，针对英伟达的反垄断调查已接近尾声，预计很快出具正式异议声明。该调查始于2023年9月法方突击检查英伟达法国办公室，2024年年中发布的报告指出整个生成式AI行业高度依赖英伟达CUDA平台。调查聚焦两大问题：市场对CUDA的强依赖使开发者难以转向其他硬件；英伟达对CoreWeave等AI云计算公司的投资可能强化其市场优势。英伟达占据全球AI加速器市场超70%份额，若认定滥用市场支配地位，最高可被处以全球年营业额10%的罚款（数十亿美元）。
行业英伟达CUDA反垄断
推荐理由：法国准备正式指控英伟达，原因是他们太依赖CUDA和投资云公司，最高可能罚几十亿美元，这案子会影响整个AI芯片格局。
原文
7月3日
10:14
6月29日
13:51
13:51官方账号Together AI@togethercompute
精选
Together Compute推出ParallelKernelBench开放基准测试，专门评估LLM编写多GPU内核的难度。该基准基于50个真实CUDA通信问题，性能取决于通过NVLink高效移动数据。测试结果将于6月30日在aiDotEngineer World's Fair上由Simran Arora分享。
AI模型ParallelKernelBenchTogether ComputeCUDA
推荐理由：Together Compute搞了个ParallelKernelBench，专门测LLM能不能写好复杂的多GPU内核，比单GPU难多了，感兴趣的话可以去现场听分享。
原文
13:50
13:50官方账号阿里云 Alibaba Cloud@alibaba_cloud
在Flink Forward Asia Shenzhen 2026上，NVIDIA的Chuan Chen介绍了与阿里云的技术合作。双方通过CUDA库加速Apache Flink的多模态数据流处理。这一开源协作实现了端到端高性能多模态流式架构，适用于AI评论、实时图文流和交互式问答。
行业NVIDIAAlibaba CloudApache Flink
事件专题
推荐理由：NVIDIA和阿里云用CUDA把Flink的多模态数据处理速度拉满了，想做实时AI评论或图文问答的可以看看这个架构。
原文
5月15日
00:48