AITOP
全部 AI 动态
AI 相关资讯全量信息流
全部博客资讯推文论文
全部模型产品行业论文技巧
标签：自主系统×
6月16日
20:46
6月12日
12:57
6月11日
21:52
21:52rohanpaul_ai@rohanpaul_ai
一篇论文提出，AI Agent 可能从根本上改变软件的本质，使代码不再是核心产物。传统软件是“冻结的意图”，而 Agent 能在运行时将意图转化为行动，生成代码作为一次性工具。这种转变是从预设计行为到协商行为的转变，系统会随条件变化持续解释目标。但这也带来新风险：静态程序在边界内失败，而 Agent 可能因漂移、过度自信或错误累积而失败。未来工程师不再是提示词写手或数字实习生监督者，而是定义意图、约束自主性、设计评估和检查推理轨迹的人。
论文AI Agent软件范式代码生成自主系统风险评估
推荐理由：这篇论文点出了 AI Agent 对软件范式的根本冲击——代码不再是最终产品，做架构设计或系统开发的团队值得一读，看完会对 Agent 的风险和工程师的新角色有更深理解。
原文
15:28
15:23
15:07
09:52
09:52arXiv cs.AI@Mir Md Sajid Sarwar, Srinivas Pinisetty, Rajarshi Ray, Thierry Jéron
精选
本文提出一种运行时强制框架，用于确保自主和网络物理系统在不确定动态环境中的安全。与传统的运行时验证不同，运行时强制通过主动干预执行过程来防止属性违反，可修改不安全行为。该框架使用混合自动机建模安全需求，结合离散事件编辑与连续时间监控，支持事件抑制、延迟和插入等操作。通过运行时可达性分析合成安全纠正动作，并在自适应巡航控制系统中验证了有效性，实验表明该方法在实时保障安全的同时引入极小计算开销。
论文运行时强制混合自动机安全验证自主系统自适应巡航控制
推荐理由：自主系统安全是自动驾驶、机器人等领域的核心难题，这篇论文给出了一个可落地的运行时强制方案，做安全关键系统开发的工程师可以直接参考其算法和案例。
原文
6月3日
00:42