训练框架相关 AI 资讯

7月14日

00:16

AI Engineer@aiDotEngineer

精选

Prime Intellect 全面重构了 Verifiers 库，采用模块化任务系统，将环境分解为任务集（数据/规则）、操作器（代理逻辑）和运行时（执行环境），提升模型评估的灵活性。核心训练框架 PrimeRL 采用完全异步设计，将训练与推理解耦，可高效处理长周期智能体任务。后训练算法支持 SFT、在线蒸馏和自我蒸馏等多种方案，用户无需改动基础设施即可切换方法。实验室平台已提供多租户 LoRA 训练，即将开放全微调能力，支持从本地原型到云端扩展的平滑迁移。

推荐理由：想了解 Prime Intellect 的异步 RL 框架和模块化验证系统吗？看看他们如何让长程智能体训练更高效。

原文

6月24日

12:00

官方账号arXiv cs.AI@Adhitya Charan, Adwaid Suresh, Anuj Kumar, Aparna A, Dhanakumar K, Dharun M S, Dinesh G, Goutham Kumar Reddy K, Harshini V M, Jenifa D, Jona Delcy C A, Kathirvel S, Killi Uma Maheswara Rao, Kiruthik Kanna M, Kurra Vishnu Sai, Madhumithaa G K, Navin Kumar, Ram Charan Golla, Revathi T, Rishikkanth R, Sanjay Krishna M, Surendra Vendra

BluTrain是一个用标准C++和CUDA实现的AI训练框架。在8-GPU 6000 Ada系统上训练124M参数GPT-2模型（FP32），其吞吐量达407K tokens/s，比PyTorch的395K tokens/s高约3%。同时内存占用减少22%，且严格保持数值精度。框架包含原生实现的张量模块、反向模式自动微分、线性代数库、缓存分配器、分布式执行和MLIR编译器。

AI模型 BluTrain C++/CUDA GPT-2

推荐理由：这个新框架用C++从头写，训练GPT-2比PyTorch快3%且省内存22%，适合追求极致性能的开发者。

原文

5月27日

11:57

11:57IT之家（博客/媒体）

78°

面壁智能联合清华大学、OpenBMB开源社区发布ForgeTrain，这是全球首个完全由AI编写、零人类代码介入的生产级大模型训练框架。该框架已在华为昇腾芯片上成功完成MiniCPM5-1B模型的预训练，该模型综合性能在全球同尺寸中领先，位列AA榜单2B规模以下Top 1。ForgeTrain完全开源，包含框架代码和Agent Harness工具链，任何团队可复现从对齐到反超的全过程。这标志着“AI写框架→国产芯片运行→训出领先模型”的闭环被打通。