09:40
官方账号arXiv cs.LG@Zena Al-Khalili, Rafi Hakim, Dietrich Klakow, Ji-Ung Lee
推荐理由：Fork-Think让LLM推理更省钱省时间——先找准关键点再思考，token少用30%，速度快57%，效果还不输并行方法。
Fork-Think
共 1 条相关 AI 资讯
7月1日
09:40
Fork-Think提出一种新范式：先通过模型置信度在单条路径上识别分流点，再触发多分支采样并聚合。在三个模型和三个推理基准上，相比并行思考，Fork-Think节省了30%的token消耗和57%的推理时间，性能持平或更优。结合早停和加权投票后，无需预热即可达到现有最优方法。