全部 AI 动态 · AI 热点

6月17日

11:35

11:35

arXiv cs.LG@Gbenga T. Awojinrin, Abdul-Akeem Olawoyin, Rami M. Younis

精选

该论文提出LiL-Q方法，通过Bellman-Kalaba拟线性化将非线性PDE转化为一系列线性子问题，每个子问题用线性可学习表示（LiL）离散化并直接通过QR分解求解。LiL表示包括随机特征极限学习机、谱多项式基和三角展开，实现为物理信息神经网络（PINNs）。在7个基准测试（Bratu、粘性Burgers、Buckley-Leverett、平面应变弹性、2D/3D不可压缩Navier-Stokes、异质渗透率Darcy流）上，LiL-Q通常在个位数外部迭代内收敛，参数数量比现有PINN求解器少两个数量级时仍能达到或超越其精度。当精确解在试验空间内时，单次求解即可恢复至机器精度。

AI模型 LiL-Q PINNs 非线性PDE 凸优化谱方法

推荐理由：这个新方法LiL-Q用凸优化替代了PINNs的非凸训练，收敛快、参数少，在Navier-Stokes等难题上效果拔群，值得关注。

6月16日

20:46

AITOP6月16日 20:46

600亿美元买下Cursor，xAI终于拿到了编程工具，但真正值得跟踪的或许不是AI

600亿美元买下Cursor，xAI终于拿到了编程工具，但真正值得跟踪的或许不是AI

6月15日

11:11

11:11

arXiv cs.LG@Simone Di Gregorio, Anupam Gupta, Stefano Leonardi, Matteo Russo

论文研究在线凸优化（OCO），其中学习者每轮使用一次δ-噪声成对探测比较两个点的损失。主要定理给出遗憾界O(min{√(dT ln T), (dT ln T)/(k|1-2δ|)})，该界对T、k和δ紧。即使探测预算k子线性，也能改进最坏情况遗憾。对于专家设置，在有限决策集上得到完全紧的速率。分析通过方差减少效应和二阶指数权重方法揭示探测收益。

论文 OCO Pairwise Probes 噪声探测遗憾界凸优化

推荐理由：探测可降低在线学习遗憾

6月12日

12:57

AITOP6月12日 12:57

Claude代码里藏了个20260612，18个月后的AI记忆革命已经开始倒计时

6月11日

15:28

AITOP6月11日 15:28

1107 vs 303：谷歌悄悄开源了一个“拆打字机”的模型，把大模型速度翻了4倍

15:23

AITOP6月11日 15:23

DiffusionGemma颠覆文本生成？自回归模型的“统治”要结束了

15:07

AITOP6月11日 15:07

每秒1107个token，Google开源的扩散模型为什么能改变本地推理格局？

6月2日

11:15

11:15

arXiv cs.LG@Junhyoung Chung, Euijong Song, Won Hwa Kim, Gunwoong Park

研究人员提出 Convex Distance Operator Transport (CDOT)，这是首个凸最优传输框架，能在异构域之间对齐分布，同时保留特征对应和内在几何结构。CDOT 通过基于算子的正则化，引入距离和条件期望算子来对齐聚合距离结构，从而提升对局部几何变化的鲁棒性。理论证明 CDOT 差异是属性紧致度量-测度空间上的有效伪度量，并揭示了其与 Gromov-Wasserstein 的非凸性差异。实验在合成点云、脑连接组和图分类基准上表现优于现有方法，且行为稳定可靠。

论文最优传输凸优化几何结构分布对齐 CDOT

推荐理由：做分布对齐或几何数据处理的团队，CDOT 解决了传统 GW 非凸优化不稳定的痛点，可以直接用这个凸框架提升效果，建议点开看理论证明和实验对比。

5月29日

12:32

12:32

arXiv cs.LG@Alaa Khamis, Alaa Maalouf

精选

测试时微调（TTFT）是一种新兴范式，通过检索相关序列并更新模型来适应每个提示，但现有方法在速度和效果间存在权衡。HullFT 提出几何方法，利用 Frank-Wolfe 优化将查询嵌入表示为稀疏凸组合，生成相关且多样化的支持集。通过几何整数化过程将分数权重转换为精确整数多重集，并利用梯度重用技术摊销重复微调的计算成本。实验表明，HullFT 在更低总运行时间下实现了更低的 bits-per-byte，优于当前最先进的 TTFT 方法。

论文测试时微调凸优化梯度缓存 LLM 效率优化

推荐理由：HullFT 解决了测试时微调中检索和微调的双重瓶颈，做 LLM 推理优化的开发者可以直接尝试，能显著提升效率。

5月22日

11:18

11:18

arXiv cs.LG@Jan Tempus, Philip Whittington, Craig W. Schmidt, Dennis Komm, Tiago Pimentel

精选

当前主流分词算法（如BPE、Unigram）本质上是贪心算法，只做局部最优决策，无法保证整体词汇表质量。研究者将分词器构建形式化为线性规划问题，利用凸优化工具求解，提出新算法ConvexTok。实验表明，ConvexTok在内在分词指标和语言模型的bits-per-byte（BpB）上持续优于现有方法，下游任务性能也有提升但不够稳定。更重要的是，ConvexTok能给出一个下界，证明其分词器在常见词汇表大小下距离最优解不超过1%。

论文分词凸优化 NLP 线性规划 ConvexTok

推荐理由：分词是NLP的基础环节，贪心算法长期占据主流——ConvexTok用凸优化给出了可证明接近最优的方案，做分词器优化或语言模型预训练的团队值得关注。

5月11日

11:43

11:43arXiv cs.AI（学术论文）

该研究提出一种参数重建算法，用于训练脉冲神经网络（SNN）。由于脉冲函数的不可微性，传统SNN训练依赖代理梯度，引入逐层累积的近似误差。研究团队扩展了并行前馈阈值网络的凸化理论至并行递归阈值网络，将SNN作为其结构化特例纳入框架。新算法在多个任务中作为独立方法或与代理梯度训练结合均表现出一致且显著的优势。消融实验验证了其数据扩展性和对模型配置的鲁棒性，表明该方法在大规模SNN训练中具有潜力。

论文脉冲神经网络凸优化训练算法代理梯度理论突破

推荐理由：该工作从理论层面解决了SNN训练中梯度近似误差累积的难题，提出的参数重建算法在多个基准任务上验证了有效性，为大规模低能耗SNN训练提供了新路径。