05:37Anthropic@AnthropicAI78°Anthropic 在每次发布新模型时都会运行同一项测试:给模型一段训练小型 AI 模型的代码,要求其优化加速。人类专家需要 4-8 小时才能达到 4 倍加速。2024 年 5 月,Claude Opus 4 平均实现约 3 倍加速。而 2025 年 4 月,新模型 Mythos Preview 达到了约 52 倍加速,性能提升显著。这表明 AI 在代码优化方面的能力正在快速进化。AI模型AnthropicMythos Preview代码优化模型加速AI 训练10 个信源在谈推荐理由:AI 模型自我优化的能力正在指数级增长——从 3 倍到 52 倍只用了不到一年,做 AI 训练和推理优化的开发者值得关注这个趋势。原文
07:26AK@_akhaliq75°Apple 发布了一项关于 On-Policy Distillation 的研究,探讨了这种知识蒸馏方法在哪些场景下有效、哪些场景下有害,并分析了背后的原因。该研究旨在帮助 AI 开发者更好地理解和应用蒸馏技术,以优化模型性能。关键发现包括:On-Policy Distillation 在特定任务中能显著提升学生模型的表现,但在某些情况下可能导致性能下降。研究还揭示了蒸馏过程中数据分布和模型容量等因素的影响。这项工作为 AI 训练提供了实用指导,尤其适用于资源受限的部署场景。论文知识蒸馏On-Policy Distillation模型优化AppleAI 训练推荐理由:Apple 这篇研究把 On-Policy Distillation 的坑和甜点都讲透了,做模型压缩或部署的团队可以直接参考,避免踩坑。原文