17:18
Thomas Wolf@Thom_Wolf
Thomas Wolf@Thom_Wolf推荐理由：想给模型推理提速？这个ThinkingCap把Qwen 27B的思考token砍掉一半，有的例子快10倍，效果还很稳定。
ThinkingCap
共 1 条相关 AI 资讯
7月7日
17:18
Jaroslav Beck团队发布ThinkingCap高效模型系列，在Qwen 3.6 27B模型上进行微调，平均减少2倍思考token，部分示例生成速度提升10倍。该方法保持非侵入性干预，得到的模型与原检查点行为高度相似。作者认为这个技术可能像量化一样成为默认工具包的一部分。