行业

Yann LeCun:蒸馏成本低,前沿基础模型终将免费开源

精选理由

LeCun 发推说蒸馏比训练前沿模型便宜得多,市场力量会逼着前沿模型免费开源,逻辑挺简单直接。

Yann LeCun 转发 @abuchanlife 的观点并作分析:训练一个前沿模型成本高昂,但从前沿模型蒸馏出一个模型的成本很低。他认为仅这一市场力量就足以让前沿基础模型走向免费或开源,此外还有其他推动因素。该观点出自 thealliance.ai 的 tapes 项目相关讨论。

图片来源 · Yann LeCun
原文 · Yann LeCun

@abuchanlife - training frontier models is expensive - distilling a frontier model is cheap - this market force alone tells us that frontier foundation models will be free/open. - there are others. thealliance.ai/projects/tapes… 💬 13 🔄 10 ❤️ 150 👀 10645 📊 29 ⚡