AITOP
全部 AI 动态
AI 相关资讯全量信息流
全部博客资讯推文论文
全部模型产品行业论文技巧
标签：系统优化×
6月16日
20:46
6月12日
21:52
21:52LangChain@LangChainAI
LangChain 团队展示了如何用 LangChain 和 DeepAgents 构建多种循环结构，从基础的 Token 循环到复杂的元循环。Token 循环由模型支持，create_agent 提供智能体循环（模型+工具+重复直到完成），DeepAgents 引入自我验证循环（智能体循环+验证+重复直到满意），部署则实现元循环（根据事件触发智能体运行以改进系统）。团队还提到正在探索“引擎”循环，用于分析每次追踪并调整提示、工具等，使元循环更高效。这为开发者提供了从简单到复杂的循环构建路径，适合需要自动化迭代和系统优化的场景。
AI产品LangChainDeepAgents智能体循环自动化系统优化
推荐理由：做智能体自动化和系统优化的开发者，LangChain 这套循环体系从基础到元循环都覆盖了，直接拿来用就能提升迭代效率，值得点开看看。
原文
12:57
6月11日
15:28
15:23
15:07
6月10日
11:52
11:52AI Will@FinanceYF5
83°
开发者 Victor Taelin 测试其编写的 HVM5 交互网求值器优化效果，使用 32 个 GPT-5 agent 运行 20 小时仅获得最多 2 倍加速，Opus 4.8 运行 8 小时最多提升 34%，而 Fable 5 仅用 2 小时就实现了单个基准 1770% 的加速，其他 4 个基准超 100%，平均 22%。Fable 不仅找到了最高效的优化策略（动态模式匹配节点的垃圾回收），还发现了作者代码中一个深层 bug。Taelin 称这是他的“个人奇点时刻”，并表达了对 AI 不平等问题的担忧。
AI产品Fable 5HVM5GPT-5Opus 4.8系统优化
推荐理由：Fable 5 用 2 小时干赢了 32 个 GPT-5 agent 跑 20 小时，做系统优化或高性能计算的开发者看完会沉默——这不仅是效率碾压，还顺手修了作者都没发现的 bug，值得点开看细节。
原文
5月28日
09:47
5月26日
16:35
5月21日
09:46
09:46arXiv cs.AI@Bole Ma, Jan Eitzinger, Harald Koestler, Gerhard Wellein
精选
MoE 专家并行中的 AlltoAll 调度是主要瓶颈，业界提出四种缓解方案，但都基于两个假设：路由不均衡可由系统层修正，以及模拟 token 基准能代表真实生产路由。DODOCO 工具在五个 MoE 检查点（DeepSeek-V2-Lite MLA、DeepSeek-MoE-16B MHA、Qwen3-30B GQA、Nemotron-30B Mamba-2、Qwen3.5-35B GDN）上测试了这些假设，发现两者均不成立。扩展 EP 时，每个专家的最大/平均 token 比变化不超过 5%，表明 straggler 是模型路由决策固有的，而非专家在 rank 上的分布。模拟 token 高估路由 Gini 系数最多 2.35 倍，并制造出虚假的 batch-size 缩放趋势。五种架构分为两个稳定带：MHA 和 Mamba-2 在真实文本上 Gini 降至 0.105-0.150，而 MLA 和 GDN 始终高于 0.24。
论文MoE专家并行AlltoAll调度路由不均衡系统优化
推荐理由：做 MoE 系统优化或互联设计的工程师，这篇论文用实测数据推翻了行业两个核心假设，直接告诉你路由不均衡是模型固有、模拟测试不可信，看完能避免在错误方向上投入精力。
原文
5月20日
10:42
10:42arXiv: DeepSeek@Moiz Arif, Avinash Maurya, Sudharshan Vazhkudai, Bogdan Nicolae
精选72°
本文系统研究了从标准生成式 AI 向推理密集型架构（如长链思维模型）转变时，LLM 推理面临的新瓶颈。研究发现，推理工作负载产生大量推理 token，使推理进入“容量受限”阶段，而非传统的计算受限阶段。通过评估 8B 到 671B 参数模型，论文揭示了数据并行在小模型上高效但受 KV 缓存碎片影响，张量并行在 32B 参数附近有次线性增益，而大规模稠密模型受互联和内存带宽限制，稀疏 MoE 模型则受路由和同步延迟限制。这些发现为构建下一代推理基础设施提供了决策框架。
论文推理模型并行策略KV缓存MoE系统优化
推荐理由：这篇论文戳中了推理模型部署的核心痛点——从计算瓶颈转向容量瓶颈，做 LLM 推理优化的工程师和架构师值得细读，能帮你避开常见的并行策略陷阱。
原文
5月15日
07:09
5月13日
21:35
08:47
08:47IT之家（博客/媒体）
微软在 5 月补丁星期二向 Windows 11 推送了累积更新 KB5089549 和 KB5087420，修复了 120 处漏洞，包括 17 个关键级别漏洞。更新为文件管理器新增了对 uu、cpio、xar 和 NuGet Packages 四种压缩格式的原生支持，用户无需第三方工具即可查看压缩包内容。此外，还修复了深色模式下的白色闪烁问题，并优化了文件夹显示逻辑、触摸键盘输入界面和 Secure Boot 证书推送机制。此次更新提升了系统稳定性和安全性，尤其改善了文件管理器和远程桌面的体验。
行业Windows 11文件管理器压缩格式安全更新系统优化
推荐理由：本次更新为 Windows 11 用户带来了文件管理器原生压缩格式支持和多项安全修复，显著提升了日常使用的便捷性和系统稳定性。
原文