Chinese content腾讯混元发布Hy3 1bit与4bit量化版，295B模型可单卡本地运行
想用295B的旗舰模型又没多卡？腾讯混元把Hy3压到1bit，一张显卡就能跑，效果还挺稳。
IT之家Source
#4bit量化
1 stories · 0 in 7 days · 0 in 30 days
Stories, products and papers tagged "4bit量化", newest first.
Jul 14
想用295B的旗舰模型又没多卡？腾讯混元把Hy3压到1bit，一张显卡就能跑，效果还挺稳。