#自适应推理

共 4 条 · 7 天 0 条 · 30 天 1 条

MATH模型 1 Qwen2.5 1 SpecQuant 1 推测解码 1 推理模式 1 计算分配 1 迁移学习 1 量化 1

信息流里打上「自适应推理」标签的资讯、产品与论文，按刊登时间排，新的在上。

9月21日

模型 Agent 与开发者多源确认精选09:20

SpecQuant框架通过多父量化实现LLM自适应高效推理

这个技术很实用，能让你在本地设备上更高效地运行大语言模型，不用复杂配置，还能根据任务自动选择合适的模型精度。

#SpecQuant #Qwen2.5 #推测解码 #量化

arXiv cs.LG@Harish KB 等 5 人11 个信源在谈原文

8月21日

自适应推理：测试时计算分配学习

这篇论文介绍了一种自适应推理模型，通过选择不同的推理模式来优化计算分配，这在处理不同难度的问题时非常有用，值得一看。

#自适应推理 #计算分配 #MATH模型 #推理模式

arXiv cs.AI@Gijs Kassenaar 等 3 人原文

7月4日

模型官方一手精选18:20

傅聪团队与厦门大学提出ManCAR：流形约束自适应推理使推荐提升46%

傅聪团队和厦大搞了个ManCAR新框架，做推荐比之前方法强了将近一半，用流形约束让推荐结果更准更靠谱。

#ManCAR #傅聪 #推荐系统 #自适应推理

官方一手Pandaily@[email protected] (Pandaily)原文

6月23日

AdaR：自适应递归图模型实现测试时计算

AdaR让图模型在测试时自己调整推理步数，不用重新训练，效果比传统图神经网络好。

#AdaR #图学习 #测试时计算 #自适应推理

arXiv cs.LG@Junshu Sun 等 4 人原文