AITP
精选全部 AI 动态AI 日报Agent 接入关于更新日志信源提报反馈
登录 / 注册
AITOP
精选
AI 自动挑选的高价值内容
全部模型产品行业论文技巧
标签:运行时架构×
5月20日
15:29
arXiv cs.AI@Vasundra Srinivasan
精选72
该论文首次将LLM输出与确定性系统之间的边界定义为“随机-确定性边界”(SDB),并视其为生产级智能体运行时的核心原语。作者围绕SDB提出了运行时设计的三个关注点(协调、状态、控制),并给出了六种运行时模式(如层次委派、散聚+Saga、事件驱动序列等),每种模式都追溯了其分布式系统根源并分析了当工作节点变为随机模型时的变化。论文贡献了一套五步模式选择方法论、一个将生产故障映射到模式弱点的诊断流程,以及一种名为“回放发散”的故障模式。通过可靠性分解,论文论证了随着模型方差降低,模式选择和SDB强度对长期可靠性的影响越来越大。
论文智能体运行时架构随机-确定性边界模式选择可靠性

推荐理由:做LLM智能体工程化的团队终于有了系统化的架构设计方法论——不再靠直觉拼凑,而是有模式可循、有故障可诊断。建议负责智能体生产部署的架构师和SRE点开,看完能少踩几个坑。