AITP
精选全部 AI 动态AI 日报Agent 接入关于更新日志信源提报反馈
登录 / 注册
AITOP
全部 AI 动态
AI 相关资讯全量信息流
全部博客资讯推文论文
全部模型产品行业论文技巧
标签:知识蒸馏×
6月16日
20:46
AITOP6月16日 20:46
600亿美元买下Cursor,xAI终于拿到了编程工具,但真正值得跟踪的或许不是AI600亿美元买下Cursor,xAI终于拿到了编程工具,但真正值得跟踪的或许不是AI
6月12日
12:57
AITOP6月12日 12:57
Claude代码里藏了个20260612,18个月后的AI记忆革命已经开始倒计时
6月11日
15:28
AITOP6月11日 15:28
1107 vs 303:谷歌悄悄开源了一个“拆打字机”的模型,把大模型速度翻了4倍
15:23
AITOP6月11日 15:23
DiffusionGemma颠覆文本生成?自回归模型的“统治”要结束了
15:07
AITOP6月11日 15:07
每秒1107个token,Google开源的扩散模型为什么能改变本地推理格局?
6月9日
22:42
22:42小互@imxiaohu
苹果Siri并非由Google的Gemini模型直接驱动,而是使用苹果自研的基础模型。不过,这个自研模型是通过对Gemini模型进行知识蒸馏训练而来。Google的Gemini模型仅在苹果iCloud上提供额外支持,且是苹果定制的版本。此外,Siri不使用Google搜索提供世界知识,而是依赖苹果自己的服务。这一安排让外界感觉Google被苹果“耍了”。
行业苹果SiriGemini知识蒸馏AI合作

推荐理由:这条信息揭示了苹果与Google在AI合作上的真实关系,做AI模型训练或关注大厂博弈的开发者会感兴趣——苹果用蒸馏技术借力Gemini,但最终保持自主,值得点开看看背后的技术策略。
原文
5月14日
07:26
07:26AK@_akhaliq
75°
Apple 发布了一项关于 On-Policy Distillation 的研究,探讨了这种知识蒸馏方法在哪些场景下有效、哪些场景下有害,并分析了背后的原因。该研究旨在帮助 AI 开发者更好地理解和应用蒸馏技术,以优化模型性能。关键发现包括:On-Policy Distillation 在特定任务中能显著提升学生模型的表现,但在某些情况下可能导致性能下降。研究还揭示了蒸馏过程中数据分布和模型容量等因素的影响。这项工作为 AI 训练提供了实用指导,尤其适用于资源受限的部署场景。
论文知识蒸馏On-Policy Distillation模型优化AppleAI 训练

推荐理由:Apple 这篇研究把 On-Policy Distillation 的坑和甜点都讲透了,做模型压缩或部署的团队可以直接参考,避免踩坑。
原文
精选全部日报登录