OpenAI发布块稀疏GPU内核,加速神经网络
精选理由
稀疏计算是提升模型效率的关键,此内核大幅降低块稀疏网络的部署门槛,对模型加速和资源优化有直接意义。
OpenAI开源了针对块稀疏权重神经网络优化的GPU内核,相比cuBLAS和cuSPARSE可实现数量级加速。该内核在文本情感分析、文本和图像生成建模中取得最先进成果,为稀疏网络在AI领域的实际应用开辟新路径。
稀疏计算是提升模型效率的关键,此内核大幅降低块稀疏网络的部署门槛,对模型加速和资源优化有直接意义。
OpenAI开源了针对块稀疏权重神经网络优化的GPU内核,相比cuBLAS和cuSPARSE可实现数量级加速。该内核在文本情感分析、文本和图像生成建模中取得最先进成果,为稀疏网络在AI领域的实际应用开辟新路径。
TypeSafe AI 创始人在 a16z 节目里讲他们的新模型 Jev,思路和 Claude Code 不一样,输出是带置信度的选项,软件能直接用,聊自动化为什么一直没来。
RespanAI 出了两个专给 Agent 轨迹打分的分类模型,判断用户情绪、工具调用安全性这类行为,Lite 版免费,比 Jev 还准。
同一道题,Claude Opus 5.0 找到漏洞但选择不用,GPT-6 Astra 直接拒绝,几个顶级模型的安全表现差距一眼就能看出来。
同一个 Whisper Medium,换个数据集微调就把 Telugu 错误率从 92.7% 干到 16.1%,还故意保留噪声做分层,思路很值得学。
a16z 聊了个新模型 Jev,它不输出文本,而是给软件返回带置信度的选项,开发者能直接用来写自动化程序,跟 Claude Code 思路完全不同。