Miles近期进展 Miles现状与趋势 Miles，即大规模语言模型，是当前人工智能领域的热点话题。尽管在2024年初，AI仅完成了10项AGI测试中的1项，但Miles的发展势头依然迅猛。据LMSYS Org（SGLang）报道，开源的Inkling模型总参数量达到了975亿，激活MoE（模块化稀疏可扩展）的参数量为41亿，支持1M上下文的多模态输入。 Miles近期进展 Gary Marcus 赌局过半：AI 仅完成 10 项 AGI 测试中的 1 项：Gary Marcus提出了一个关于AGI（通用人工智能）的赌局，目前AI只完成了其中的1项测试。 thinkymachines开源Inkling：975B总参/41B激活MoE，1M上下文多模态：Inkling模型的开源使得Miles模型的研究和应用更加广泛。 DeepSeek-V4 Flash RL 在 AMD MI355X 上完成端到端训练：DeepSeek-V4 Flash RL模型在AMD MI355X上完成了端到端训练，展示了Miles模型在硬件上的适应性。 LMSYS 发布 TITO 技术：确保 RL 训练中每个 token 都在策略上：LMSYS发布的TITO技术旨在提高RL（强化学习）训练中每个token的策略性。 当前焦点与观察点 目前，Miles的研究和应用主要集中在提高模型的参数量和多模态输入能力，同时确保模型在训练过程中的策略性。然而，Gary Marcus反驳了AGI已到来的观点，指出当前AI连十个简单任务都无法可靠完成，这引发了人们对Miles未来发展的关注和讨论。