8月4日
02:08
02:08官方一手Meta Engineering Blog博客/媒体
Meta的生成式广告推荐模型GEM支撑着Instagram和Facebook的广告推荐,现已在数千块最新GPU上训练。该训练将端到端效率翻倍,MFU达到20-25%。训练FLOPs同时扩展4倍,使广告推荐模型达到LLM规模。
推荐理由:Meta把广告推荐模型训到LLM规模,效率翻倍,MFU到20-25%,算力扩4倍。值得做推荐训练的看看。