Microsoft MAI 公布 3T 参数自研预训练基座模型
微软 MAI 自研的 3 万亿参数基座模型曝光,后训练版本还在路上,想看微软怎么追 OpenAI 的可以蹲一下技术博客。
Microsoft AI 部门 MAI 宣布完成 3T(三万亿)参数级别的预训练基座模型,全部在内部自研完成。Mustafa Suleyman 在 X 上称该模型在基座预训练阶段已达到同级别最优水平。后训练(post-training)结果尚未发布,官方表示将很快公布。更多技术细节可在 Microsoft 发布的技术博客中查看。
We now have state-of-the-art pre-trained base models in the 3T-parameter weight class, built entirely in-house at MAI. Post-training results coming soon -- stay tuned! Lots of details in our technical blog post. microsoft.ai/news/frontier-… 💬 20 🔄 37 ❤️ 264 👀 10221 📊 55 ⚡