Latest

理论向读者看这篇：把 MIL 里常用的 softmax 近似 max 讲透了，还用随机能量模型和 Hopfield 网络解释了梯度下降何时失效，推导和模拟都对得上。

一篇因果发现方向的论文：Loscar 把 RESIT 框架推广到 LSNM，用分位数回归套预训练表格模型，多变量场景比 FGLS 强不少。

JEPA 在图像上很能打，但用 MIMIC-IV 一测，做病历表征还是干不过老老实实的 MLM，结论挺反直觉的。

一篇把标准注意力、线性注意力、RNN 全部用几何框架统一起来的理论论文，想搞懂 attention 底层数学原理的可以啃一啃。

Perplexity 开源了 0.6B 和 9B 两款多模态嵌入模型，0.6B 就能打大模型，还支持 9B 建库、0.6B 查询的省资源玩法，做检索的可以试试。

用 396 个 QASPER 问题和 8 本教材实测了 11 种长文档检索方案，结论挺反直觉：扫全文不一定更强，Hybrid + Jev 证据覆盖 94.1% 还更快更省钱。

arXiv 上这篇论文教你怎么把 7B/8B 模型压到 3-4 比特还给太空机器人用，混搭三种量化器比单用一种效果更好，做端侧部署的可以看看。

这篇论文测了 16 个模型当支付审批监控器的表现，发现一起失效的根源是共享证据源，结论是数来源别数票，做智能体安全的人可以看看。

有人给 VHDL 代码生成做了个专门基准，18,500 多条样本微调后语法正确率到 92%，还真能跑上 FPGA 硬件，做芯片设计的可以看看。

做图生成的人可以看看：用 FlexAttention 实现的边感知注意力层，显存省了 65%，吞吐还更快。

这篇论文把几秒人类手部动作变成灵巧手能用的技能，跟踪人类动作学先验，又靠噪声环境逼它泛化，还验证了真机迁移。

一篇做噪声下导航规划的新论文，用 Neumann 边界条件加 Monte Carlo 标签训练出能跨几何泛化的价值场，4D 重规划成功率 95% 以上还比对手快几十倍。

搞 LiDAR 建图的同学可以看看，把经典曲面能量泛函搬进神经隐式 SDF，平滑度和保真度兼顾，推理还不加开销，代码开源了。

一篇求解 PDE 的论文，把串行积分改成时间并行，训练从慢到一秒以内，还带误差证明，搞科学计算可以看看。

有人专门为野外相机拍的动物照片改进了 MAE，重建指标比原版 MAE 高出好几 dB，做生态监测或自监督的可以看看架构细节。

这篇论文把每 token 的电耗拆成活跃字节加解码时间两个量，误差 3.73% 以内，做推理部署省电的可以照着算。

教扩散模型学你的新概念还不忘旧的，这套残差适配方法保真度最高，参数还能砍 72%，玩个性化生成的看看。

OpenAI 刚用非构造性方法给出 ω≤9/4，这篇论文把构造写出来了，矩阵乘法复杂度爱好者可以直接看推导。

三个后端、五千多个仓库被扒了一遍配置，想知道大家平时真的调哪些推理参数、哪些基本没人碰，看这篇就够了。

联邦学习里不同群体抢一个模型、另一个模型饿死怎么办？这篇把路由干预建模成控制问题，用 EXP3 自动选策略救回来，还开了源代码。

用 LightGBM 对 Google Trends 和疫情数据做双向预测分析，还提出了 DPRS 这个新指标，做时序预测的可以看看误差分布熵的思路。

搞优化理论的朋友可以看看，这篇把 SGD 在深度线性网络里的收敛性证明补上了，条件还挺宽松，不要求 Lipschitz。

这篇论文实测了 LLM 选特征到底靠不靠谱，结论挺实在：7B 的模型还不如传统统计方法，但特征名字本身对回归任务确实有用。

一篇很新颖的架构论文：给每个神经元学一个位置，只连附近的邻居，17 个世界模型任务里赢了 16 个，做模型结构的人可以看看。

论文提出 Tessera，把细胞空间关系建模成保留方向的相对关系，表征质量和零样本泛化都超过现有空间基础模型，做空间组学的可以看看。

NVIDIA 把 ReMEmbR 扩到机器人集群了，Jetson 本地编码不上传原始画面，还能抹掉人脸过 GDPR，做仓储机器人的可以看看。

一个测多视角空间生成的新基准，11 个模型都考砸了，微调 BAGEL 能涨 24 分，做空间生成方向可以看看。

SRE 排障神器来了：论文把散落的日志拼成一张图，多智能体自动跑因果分析，LLM 直接给你代码级根因报告。

NVIDIA 出的这个研究能让视频模型生成的动作直接变成可用的 3D 骨骼动画，猴子跳栏杆那种画面能原样搬进 3D 场景，做动画和机器人的可以看看。

一个能把 LLM 和材料模拟串起来干活的智能体框架，在镍的 14 种晶界上自己规划模拟、找缺陷、分析变形机制，做材料计算的朋友可以看看思路。

一篇机器人方向的论文：UniWALM 把动作和语言记忆塞进一个模型一起生成，真实抓物成功率从 11% 拉到 61%，比 Mem-0 那套省事不少。

arXiv 上这篇论文给 MTP 解码加了个轻量控制器，不用重训练就能自动选草稿长度，Llama-3.1 上最高跑出 4.1 倍解码速度，做推理优化的可以看看。

有人在 11 个模型上测了 5 种阿拉伯方言的数学题，发现换成当地文化语境后成绩会掉，做低资源语言评测的可以看看。

几个生成系统的辩论里价值观点很多，但跟人比撒得更散，论文给了套基于 Schwartz 理论的量化方法，代码开源。

搞硬件/RTL 生成的朋友看下：这篇用 459 个测试用例说明现有修复基准可能没测到你以为的东西，还开源了整套数据和评估框架。

MIT 式的自动科学发现新玩法：不从数据里拟合公式，而是反推数据背后的优化问题，99 道物理题对了八成，还省 token。

2022 年的老方法 TS2Vec 改三个地方就变成基础模型，1.6M 参数冻住就能打平 MantisV2，还不用注意力，思路很值得看。

一篇机器人方向的论文：单张图就能重建出能跑物理仿真的 3D 场景，还验证了真实机器人操作回放，做 sim-to-real 的可以看看。