精选理由
这个实验展示了100多个AI智能体像人类社区一样自发协作、互相监督,甚至发现了验证漏洞。一周将Gemma 4推理速度优化5倍,很酷。
实验让100多个智能体协作一周,优化vLLM中Gemma 4推理速度,最终实现5倍提升。智能体自发拒绝人类社交工程尝试,发现验证漏洞并请求社区裁决。四智能体接力构建int4-lm_head检查点,经诊断配置错误后达到118 TPS(2.68×)。GPU富/贫分工、跨智能体内核调试、配额池化等行为涌现。智能体还指出127 TPS“墙”是假象,并讨论了int4-Marlin floor的循环证明问题。
AI 翻译 · 中文
实验让100多个智能体协作一周,优化vLLM中Gemma 4推理速度,最终实现5倍提升。智能体自发拒绝人类社交工程尝试,发现验证漏洞并请求社区裁决。四智能体接力构建int4-lm_head检查点,经诊断配置错误后达到118 TPS(2.68×)。GPU富/贫分工、跨智能体内核调试、配额池化等行为涌现。智能体还指出127 TPS“墙”是假象,并讨论了int4-Marlin floor的循环证明问题。
Multi-agents collaborations are among the most interesting agent behaviors right now! We did an experiment the other day with 100+ agents (an open-collaborations for a week) collaborating to improve the inference speed o…