08:05andrew chen@andrewchenAndrew Chen预测消费级显卡2029年可运行Fable级别模型,依据是LLM知识压缩比约400:1,量化至4-bit后达1600:1。Densing Law显示模型能力每3.3个月翻倍,27B参数模型已接近几年前更大模型。当前27B参数量化版已能在32GB显存GPU运行,且每年效果提升。AI模型消费级GPUFableDensing Law量化推理模型推荐理由:Andrew Chen用Densing Law和量化数据推测,消费级显卡跑顶级模型可能只需几年,感兴趣可以看看他的推导。原文