11:35arXiv cs.LG@Gbenga T. Awojinrin, Abdul-Akeem Olawoyin, Rami M. Younis精选该论文提出LiL-Q方法,通过Bellman-Kalaba拟线性化将非线性PDE转化为一系列线性子问题,每个子问题用线性可学习表示(LiL)离散化并直接通过QR分解求解。LiL表示包括随机特征极限学习机、谱多项式基和三角展开,实现为物理信息神经网络(PINNs)。在7个基准测试(Bratu、粘性Burgers、Buckley-Leverett、平面应变弹性、2D/3D不可压缩Navier-Stokes、异质渗透率Darcy流)上,LiL-Q通常在个位数外部迭代内收敛,参数数量比现有PINN求解器少两个数量级时仍能达到或超越其精度。当精确解在试验空间内时,单次求解即可恢复至机器精度。AI模型LiL-QPINNs非线性PDE凸优化谱方法推荐理由:这个新方法LiL-Q用凸优化替代了PINNs的非凸训练,收敛快、参数少,在Navier-Stokes等难题上效果拔群,值得关注。原文
12:32arXiv cs.LG@Alaa Khamis, Alaa Maalouf精选测试时微调(TTFT)是一种新兴范式,通过检索相关序列并更新模型来适应每个提示,但现有方法在速度和效果间存在权衡。HullFT 提出几何方法,利用 Frank-Wolfe 优化将查询嵌入表示为稀疏凸组合,生成相关且多样化的支持集。通过几何整数化过程将分数权重转换为精确整数多重集,并利用梯度重用技术摊销重复微调的计算成本。实验表明,HullFT 在更低总运行时间下实现了更低的 bits-per-byte,优于当前最先进的 TTFT 方法。论文测试时微调凸优化梯度缓存LLM效率优化推荐理由:HullFT 解决了测试时微调中检索和微调的双重瓶颈,做 LLM 推理优化的开发者可以直接尝试,能显著提升效率。原文
AITOP5月29日 08:02Opus 4.8发布:编程助手的“静默时刻”,是解放开发者,还是新门槛?🔥Anthropic 把 AI 编程的“确认键”彻底删掉了!Claude Code 搭载全新 Opus 4.8 模型,长时间任务不跑偏、不废话、不中断,像一个资深工程师一样默默干活,从功能开发到漏洞清扫全包圆,你在旁边喝茶等结果就行。过去 AI 写代码三步一问“这样可以吗”,现在它直接交完整交付物……自主编程的最后一层窗户纸,被捅破了。做自动化开发和代码审查的团队,这个模型建议直接上手,效率差距肉眼可见……
11:18arXiv cs.LG@Jan Tempus, Philip Whittington, Craig W. Schmidt, Dennis Komm, Tiago Pimentel精选当前主流分词算法(如BPE、Unigram)本质上是贪心算法,只做局部最优决策,无法保证整体词汇表质量。研究者将分词器构建形式化为线性规划问题,利用凸优化工具求解,提出新算法ConvexTok。实验表明,ConvexTok在内在分词指标和语言模型的bits-per-byte(BpB)上持续优于现有方法,下游任务性能也有提升但不够稳定。更重要的是,ConvexTok能给出一个下界,证明其分词器在常见词汇表大小下距离最优解不超过1%。论文分词凸优化NLP线性规划ConvexTok推荐理由:分词是NLP的基础环节,贪心算法长期占据主流——ConvexTok用凸优化给出了可证明接近最优的方案,做分词器优化或语言模型预训练的团队值得关注。原文