AITP
精选全部 AI 动态AI 日报Agent 接入关于更新日志信源提报反馈
登录 / 注册
AITOP

Densing Law

共 1 条相关 AI 资讯
7月13日
08:05
08:05andrew chen@andrewchen
Andrew Chen预测消费级显卡2029年可运行Fable级别模型,依据是LLM知识压缩比约400:1,量化至4-bit后达1600:1。Densing Law显示模型能力每3.3个月翻倍,27B参数模型已接近几年前更大模型。当前27B参数量化版已能在32GB显存GPU运行,且每年效果提升。
AI模型消费级GPUFableDensing Law量化推理模型

推荐理由:Andrew Chen用Densing Law和量化数据推测,消费级显卡跑顶级模型可能只需几年,感兴趣可以看看他的推导。
原文
精选全部日报登录