#大模型训练
共 12 条 · 7 天 0 条 · 30 天 5 条
信息流里打上「大模型训练」标签的资讯、产品与论文，按刊登时间排，新的在上。
10月1日
9月22日
9月18日
华为灵衢昇腾 950 智算集群云服务计划 9 月 30 日国内商用、11 月 30 日全球商用
华为发布了灵衢昇腾 950 智算集群云服务，9 月 30 日国内商用，11 月 30 日全球商用，能支撑超大型千亿级大模型训练，和昇腾 960 芯片性能翻番的消息一起值得关注。
联邦学习结合分片数据并行加速大模型训练
这是篇挺有意思的技术论文，作者把联邦学习的思想用在了大模型训练上，在 512 块 A100 上跑 Llama3.1 8B 时，数据吞吐量提升了 8.04 倍，挺厉害的。
9月15日
9月7日
6月24日
产品20:00
中科曙光ParaStor F9000包揽IO500双榜冠军，刷新全球存储性能纪录中科曙光的ParaStor F9000在IO500上拿了两个第一，存储性能全球领先，还搞定了414.7亿原子模拟，比之前的290亿原子纪录高出不少。
IT之家原文
6月18日
6月2日
顾全全离开字节 Seed：AI 药物发现与 LLM Scaling 双线突破
顾全全的离开是字节 Seed 的重大人才变动，关注 AI 药物发现或大模型训练的从业者，值得了解他过去三年的核心成果——SeedFold 和 SeedProteo 直接对标 AlphaFold 3 等顶级模型，做生物计算或 LLM 预训练的团队建议点开看看。
5月21日
5月19日
Cursor 与 SpaceXAI 合作训练更大模型，算力提升 10 倍
AI 编程工具正在从“辅助”走向“自主”，Cursor 这次联手 SpaceXAI 把算力堆到 10 倍，做 AI 编程或模型训练的开发者值得关注——这可能是下一代编程助手的雏形。
5月18日