11:31
arXiv cs.AI@Alaia Solko-Breslin, Pramod Kaushik Mudrakarta, Mihai Christodorescu, Somesh Jha, Krishnamurthy Dj Dvijotham
推荐理由：这篇论文给AI Agent加了一道安全锁：用分布鲁棒优化算清楚策略违规的概率上限，比旧方法更准、更高效。
全部 AI 动态
AI 相关资讯全量信息流
6月19日
11:31
论文提出基于分布鲁棒优化（DRO）的框架，用于AI Agent在不确定性下的策略违反概率验证。该方法支持包含概率谓词或状态转换的Datalog策略，无需假设谓词间独立性。在终端和工具调用Agent标准基准上，计算出的概率上界比先前方法更紧，同时保证了安全与效用的权衡。实验表明，该方法在多个测试集上提升了安全策略的合规性。
6月16日
20:46
AITOP6月16日 20:46
6月12日
12:57
AITOP6月12日 12:57
6月11日
15:28
AITOP6月11日 15:28
15:23
AITOP6月11日 15:23
15:07
AITOP6月11日 15:07
5月15日
10:05
10:05
arXiv cs.AI@Luca Marzari, Enrico Marchesini
精选
推荐理由：做强化学习验证或RNN策略安全的团队，终于有了一个能给出概率性保证的实用工具，比传统过近似方法更精准，值得关注。