AITP
精选全部 AI 动态AI 日报Agent 接入关于更新日志信源提报反馈
登录 / 注册
AITOP
精选
过去 24 小时,从 336 条中筛出 12 条
全部模型产品行业论文技巧
标签:表示学习×
6月11日
15:28
AITOP6月11日 15:28
1107 vs 303:谷歌悄悄开源了一个“拆打字机”的模型,把大模型速度翻了4倍
15:23
AITOP6月11日 15:23
DiffusionGemma颠覆文本生成?自回归模型的“统治”要结束了
15:07
AITOP6月11日 15:07
每秒1107个token,Google开源的扩散模型为什么能改变本地推理格局?
6月10日
11:06
11:06arXiv cs.LG@Ilay Kamai, Hugues Van Assel, Aviv Regev, Hagai B. Perets, Randall Balestriero
精选
该论文系统研究了多模态表示学习中两种主流范式——跨模态对齐(CA)和跨模态预测(CP)的适用条件。作者通过线性框架和信号加噪声模型,揭示了两种方法的互补失败模式:对齐在噪声相关性高时失效,预测则受源模态质量影响。他们提出了一个四区域相图(Both、CA only、CP only、Neither),并开发了数据驱动方法,帮助实践者在训练前判断应使用哪种目标。实验在合成数据、立体视觉、图像-文本对和真实天体物理数据上验证了该框架,包括跨模态训练反而有害的“Neither”区域。
论文多模态学习跨模态对齐跨模态预测相图表示学习

推荐理由:这篇论文为多模态学习实践者提供了诊断工具,做生物医学或天体物理等异构数据研究的团队,可以在训练前判断该用对齐还是预测,避免盲目调参浪费时间。建议点开看看相图如何帮你选对目标。
原文
6月1日
00:09
AITOP6月1日 00:09
OpenAI 发起“Codex for Open Source”:免费赠送 6 个月 Pro 订阅,开源维护者能否迎来 AI 变革?
5月29日
08:02
AITOP5月29日 08:02
Opus 4.8发布:编程助手的“静默时刻”,是解放开发者,还是新门槛?🔥Anthropic 把 AI 编程的“确认键”彻底删掉了!Claude Code 搭载全新 Opus 4.8 模型,长时间任务不跑偏、不废话、不中断,像一个资深工程师一样默默干活,从功能开发到漏洞清扫全包圆,你在旁边喝茶等结果就行。过去 AI 写代码三步一问“这样可以吗”,现在它直接交完整交付物……自主编程的最后一层窗户纸,被捅破了。做自动化开发和代码审查的团队,这个模型建议直接上手,效率差距肉眼可见……Opus 4.8发布:编程助手的“静默时刻”,是解放开发者,还是新门槛?
5月22日
10:59
10:59arXiv cs.AI@Vishal Rajput
精选
本文提出“匹配原则”,将鲁棒性、域适应、光度不变性、组合泛化、时间鲁棒性、对齐安全等看似独立的问题统一为同一个统计问题:估计部署干扰的协方差,然后沿着覆盖该协方差的矩阵正则化编码器雅可比矩阵。在线性高斯模型中,作者证明了闭式最优性(定理A),包括匹配范围内的立方根水填充;证明了二次雅可比惩罚需要范围覆盖(定理G);并提供了七个条件一致性引理。作者引入轨迹偏差指数(TDI),一种无标签的嵌入敏感性探针。在从经典ML到Qwen2.5-7B的13个预注册实验中,12个通过了预测的匹配-各向同性-错误W顺序测试。在7B规模上,匹配风格PMH提高了选择性诚实性,并保持了风格TDI,而标准DPO则使其退化。
论文表示学习鲁棒性域适应正则化匹配原则

推荐理由:这篇论文把鲁棒性、域适应等一堆看似无关的问题统一成了一个统计框架,做表示学习或模型泛化的研究者可以直接用匹配原则指导正则化器设计,省去试错成本。
原文
5月20日
11:28
11:28arXiv cs.LG@Robert Jenkinson Alvarez
精选
论文指出JEPA(联合嵌入预测架构)通常将单视图嵌入正则化为各向同性高斯分布,这隐含地引入了欧几里得对称性,但并非无害。当下游几何结构已知时,最优协方差应为哈密顿能量预算下的(c/d)H^{-1},各向同性会导致可量化的性能损失。当下游几何未知时,任何固定边际目标都可能与某些结构严重不匹配。作者提出HamJEPA,将每个视图编码为相空间状态(q,p),并用可学习的哈密顿跳蛙映射预测视图间转换,非各向同性尺度和谱底防止崩溃。在CIFAR-100上,HamJEPA在30轮时比SIGReg提升+4.89 kNN@20和+3.52线性探针点,80轮时提升+6.45 kNN@20和+10.64线性探针点。在ImageNet-100上,45轮时提升+4.82 kNN@20和+7.52线性探针点。
论文JEPA表示学习哈密顿几何自监督学习各向同性

推荐理由:这篇论文戳破了JEPA中“各向同性正则化无害”的默认假设,做自监督表示学习的团队值得关注——它用哈密顿几何给出了更优的耦合方式,实验提升显著且理论扎实。
原文
5月18日
10:38
10:38arXiv cs.LG@Hazhir Aliahmadi, Irina Babayan, Greg van Anders
精选
变分自编码器(VAE)普遍存在后验坍塌问题,即潜在变量被忽略。本文提出熵自编码器(EAE),仅以重构损失为显式目标,通过自由能最小化的编码器集成隐式生成潜在变量的先验。EAE 能学习非高斯、多模态的潜在分布,从而缓解后验坍塌,生成多样且与数据一致的样本。在反应扩散过程、MNIST 和 CelebA 数据集上,EAE 分别捕捉了低维动力学、隐式类别区分和面部层次结构。该框架为生成模型提供了一种新的训练范式。
论文生成模型变分自编码器后验坍塌自由能最小化表示学习

推荐理由:VAE 的后验坍塌是生成模型老难题,EAE 用隐式先验巧妙绕开,做生成模型或表示学习的开发者值得一看。
原文
精选全部日报登录