行业精选73°

AI算力分配转向后训练与推理

精选理由

前沿实验室算力分配大变局,预训练占比锐减,后训练和推理成新战场。

2024年Q1,前沿实验室67%的算力用于预训练;到2026年Q4,预计预训练占比将降至7%。同期,后训练与强化学习(RL)算力占比从4%大幅升至55%,推理占38%。约90%的算力正被后训练和推理消耗。

原文 · AI Will

AI 算力战争已经换了战场。 2024年Q1,前沿实验室67%的算力用于预训练;到2026年Q4,预计只剩7%。 与此同时,后训练与RL从4%升至55%,推理占38%。约90%的算力,正在被后训练和推理消耗。 真正持续吞噬算力的,可能不再是训练下一个大模型,而是让现有模型变得更聪明,并服务更多用户。 💬 2 🔄 0 ❤️ 2 👀 564 📊 2 ⚡