#safety verification
6 stories · 0 in 7 days · 0 in 30 days
Stories, products and papers tagged "safety verification", newest first.
Oct 1
Aug 26
$(\text{DNN})^2$: Doubly Non-Negative Relaxations
This method provides tighter verification bounds for neural networks in safety-critical autonomous systems, addressing a key challenge in deploying AI controllers.
Aug 13
Papers17:45
Chinese content基于学习的行为规划用于自动驾驶：实际集成与部署自动驾驶圈可以看看这篇：他们没让神经网络直接开车，而是给它加了安全监督层，还在自家车karl.上真跑了。
Jun 11
Chinese content运行时强制：用混合自动机保障自主系统安全
自主系统安全是自动驾驶、机器人等领域的核心难题，这篇论文给出了一个可落地的运行时强制方案，做安全关键系统开发的工程师可以直接参考其算法和案例。
Jun 10
Chinese contentOpus 4.5 写 VM，Mythos 验证无严重漏洞
AI 写代码的安全性问题一直让人担心，这个案例证明只要加固流程到位，AI 生成的复杂系统也能通过专业审计。做 AI 安全或代码生成的团队值得看看他们的方法论。
May 20
Chinese contentk-inductive 神经屏障证书：未知非线性动力学的安全验证
做安全关键系统（如自动驾驶、机器人）验证的团队，终于有了处理未知动力学的方法——用一条轨迹就能生成带形式保证的屏障证书，比传统依赖精确模型的方式实用得多，值得关注。