这篇论文提出了一个针对高度一致字典的物理支持推理方法,结合了字典学习和部署信号表示的不确定性,并通过实验验证了其有效性。与点值插件选择器相比,AEB方法在保证物理定位的同时减少了候选评估,值得一看。
全部动态
研究人员用CLEVER框架测试了7种缓存淘汰策略,发现LFU在大多数情况下表现最好,而其他策略效果差距不大。他们还发现,实际可用的缓存命中率远低于理论值,因为很多命中答案不可替换。这个研究对优化LLM缓存很有参考价值。
研究人员搞了个叫OenoBench的葡萄酒知识测试题库,用这个题库测了16个大模型,发现o3考得最好,DeepSeek R1在推理题上表现突出,还发现模型对自己出的题有偏好,挺有意思的。
有人做了个叫 MemTrapBench 的基准,专门测大模型记忆里的认知陷阱。他们发现,记忆反而会拖累模型表现,连最好的方法都掉10%以上。他们还搞了个叫 AdaptiveMem 的方法来解决这个问题。
这篇论文提出了一种新的深度人工免疫网络,用结构化亲和力替代传统扁平向量,在MNIST等数据集上实现了不错的无回放增量学习效果,还分析了关键机制,挺有意思的。
OpenAI 推出的 RGA-Designer,能让多智能体系统在保持性能的同时,减少 20.5% 的 token 消耗,比之前的 ARG-Designer 更高效。
研究人员提出了一种方法,能通过小模型实验,准确预测万亿 token 规模 MoE 模型的最优学习率,省去了大量计算成本。他们用 155B 参数的模型验证了方法的有效性。
研究人员发现,在共享语言模型中,限制模块间的证据可见性,能让模型在组合任务上表现更好,比全局可见的模型平均高出20个百分点,而且学到的接口更可复用。
研究人员提出了 DecoVAE,一个专门用于时间序列预测的轻量级 VAE 框架。它把时间序列拆成趋势和季节性两部分来处理,在多个基准测试上比其他方法更准,而且模型更小、速度更快。
Intel推出了在AI PC集群上实现大规模LLM分布式推理的片方法,能让集群共同计算超单台容量的模型,和单机相比效率更高。
朋友间可以说:你关注S-JEPA的话,这篇讲它编码器里概率和GMM成分映射的研究值得看看,用不同方法对比后发现映射很重要,和普通做法比效果不同哦。
仅展示最近 2000 条内容,更早的内容请查阅 AI 日报存档