这篇论文用 11 个编码器证明:多模型投票可能只是假冗余,四个模型有效规模不到三个。做医学分割集成的人该看看。
#pretrained models
13 stories · 0 in 7 days · 2 in 30 days
Stories, products and papers tagged "pretrained models", newest first.
Nov 2
Papers11:15
Chinese contentCoFailMed 审计:11 个预训练编码器在医学分割中的相关性失效研究Oct 16
Chinese contentMicrosoft MAI 公布 3T 参数自研预训练基座模型
微软 MAI 自研的 3 万亿参数基座模型曝光,后训练版本还在路上,想看微软怎么追 OpenAI 的可以蹲一下技术博客。
Oct 11
Sep 19
Sep 2
Aug 26
Jul 10
Models17:49
Chinese contentLingBot-VA 2.0 发布,全球首个具身原生预训炼模型想要给机器人造更聪明的脑子?这个模型直接学物理世界数据,不用人工标注,操作成功率提高15%,还是开源的,值得关注。
Jun 28
Chinese contentGoogle Research开源零样本时间序列模型TimesFM 2.5
Google搞了个时间序列神器TimesFM,零样本预测,参数200M一张GPU就能跑,还能在Google Sheets里用,pip install两行代码搞定,做预测的别错过。
Jun 23
Models12:49
Chinese content双学习匹配:十亿参数Transformer线性连通与合并新方法让十亿参数Transformer通过双向学习实现线性合并,损失屏障极低,视觉和语言模型都验证有效。
Jun 1
Chinese contentNVIDIA发布多模态预训练模型,降低物理AI开发门槛
做物理AI(如机器人、自动驾驶)的开发者终于有了一个强大的预训练基础,能大幅降低数据收集和训练成本,建议直接查看技术博客了解细节。
May 25
Chinese content无需训练的循环Transformer:冻结模型推理时循环提升性能
这项研究让使用冻结模型的团队无需重新训练就能提升推理性能,做模型部署或推理优化的开发者值得关注,可以直接在现有模型上尝试。
May 22
Chinese contentAI文本检测器放大预训练方向,而非学习人机边界
这项研究戳破了AI文本检测的底层假设——检测器可能只是在放大预训练模型的偏见而非真正学习区分。做AI安全、内容审核或学术诚信检测的团队,看完会重新评估现有检测方案的有效性。
May 12
Papers19:11
Chinese contentClin-JEPA: 多阶段联合嵌入预测预训练框架用于EHR患者轨迹建模该工作首次将 JEPA 范式成功应用于 EHR 轨迹建模,解决了联合训练不稳定和表示坍缩的关键问题,为医疗领域预训练大模型提供了一种高效且无需任务微调的方案。