想了解如何用开源工具优化 AMD XDNA NPU 上大模型的性能,这篇论文用 FlashAttention 做了详细案例,对比了不同设计,还给出了具体优化策略。
#微调
共 235 条 · 7 天 26 条 · 30 天 94 条 · 话题观测 →
9月21日
AMD XDNA NPU 编程用开源编译工具:FlashAttention 案例研究
9月19日
Bespoke Labs 发布开源复刻模型 Bespoke Nimble,逼近 TypeSafe Jev 表现
朋友复刻了 TypeSafe Jev,公开了所有数据和模型,用 9B 模型就逼近了 Jev 的表现,还公开了训练方法,值得看看。
9月18日
9月17日
9月16日
9月15日
9月14日
9月11日
评估时序基础模型和多模态饮食上下文对CGM预测的影响
这篇论文研究的是如何用AI模型更准确地预测血糖,对糖尿病患者管理很有用。他们测试了Chronos-Bolt模型,发现微调后效果比直接用好很多,还结合了饮食数据,能更精准地预测餐后血糖变化。
9月10日
9月5日
9月3日
9月2日
9月1日
8月28日
8月27日
8月26日
Why Agent Leaderboard Comparisons Are Hard to Trust
This paper reveals the hidden influence of harnesses on AI model scores, offering a new perspective on leaderboard comparisons. It's a must-read for those interested in understanding the true performance of AI models.
新推出 Forward Deployed Engineering pod 与 @realbasilchatha 合作!
看看 Latent Space Pod 与 Basil Chatha 合作推出的新 Forward Deployed Engineering pod,了解企业级语音智能体构建的实际挑战和解决方案!
8月25日
Asymptotically Tight Fractional Online Matching Under Edge Arrivals
OpenAI的ChatGPT Sol仅用一个提示就提出了这个算法,展示了其强大的能力,值得一试。
8月24日
8月23日
8月22日
8月21日
蚂蚁百灵开源 Ling-3.0 tiny/flash Base 模型
蚂蚁百灵把 Ling-3.0-tiny 和 flash 的 Base 模型开源了,还把训练过程中的 6 个关键节点权重都放出来了。tiny 模型参数少但代码能力强,flash 模型参数多适合继续训练,对研究者挺有用。
IT之家原文