AI模型精选

12B本地模型Gemma 4 12B Coder发布,蒸馏Fable 5推理链,消费级显卡离线跑顶级coding

一个12B的本地模型,直接把Fable 5的推理链条蒸馏进去了,现在你能在消费级显卡上离线跑顶级co…

精选理由

Gemma 4 12B Coder 把 Fable 5 的推理链蒸馏到本地,12GB 显卡就能跑顶级代码生成,再也不用担心 API 费用和限制

AI 摘要

12B参数的Gemma 4 12B Coder GGUF模型基于Google的gemma-4-12B-it微调,专门针对代码生成和复杂推理。训练数据使用了Composer 2.5的真实通过案例,并由Fable 5辅助补全困难case,确保推理步骤导向可运行代码。模型采用GGUF格式,可在12GB显存的显卡甚至CPU上离线运行。下载量已突破6000,社区反馈在本地代码调试、补全、算法生成等场景表现出色。

原文 · berryxia

一个12B的本地模型,直接把Fable 5的推理链条蒸馏进去了,现在你能在消费级显卡上离线跑顶级co…

一个12B的本地模型,直接把Fable 5的推理链条蒸馏进去了,现在你能在消费级显卡上离线跑顶级coding能力。

这个Gemma 4 12B Coder GGUF是基于Google的gemma-4-12B-it微调的,专门针对代码生成和复杂推理。

训练数据里用了Composer 2.5的真实通过案例,还让Fable 5帮着补全那些难搞的case,结果就是每一步推理都导向能真正跑通的代码。

最爽的是它走GGUF格式,12GB显卡就能顺畅跑,甚至CPU也能用。

调试、补全代码、生成复杂算法、做链式思考提示,全都本地搞定,不用交API费、不用担心导出管制。

以前大家觉得前沿模型要么云端用要么根本跑不了,现在开源社区直接把Fable 5的思考方式打包成能塞进你笔记本的版本。

模型还在快速迭代,下载量已经破六千,社区反馈它在本地coding场景里特别能打。

这波操作把“强大但受限”和“本地可用”之间的鸿沟给填上了。

真正的AI生产力,从来不是等大厂放行,而是社区自己动手把能力解放出来。