11:31
官方账号arXiv cs.AI@Alaia Solko-Breslin, Pramod Kaushik Mudrakarta, Mihai Christodorescu, Somesh Jha, Krishnamurthy Dj Dvijotham
推荐理由：这篇论文给AI Agent加了一道安全锁：用分布鲁棒优化算清楚策略违规的概率上限，比旧方法更准、更高效。
Datalog
共 1 条相关 AI 资讯
6月19日
11:31
论文提出基于分布鲁棒优化（DRO）的框架，用于AI Agent在不确定性下的策略违反概率验证。该方法支持包含概率谓词或状态转换的Datalog策略，无需假设谓词间独立性。在终端和工具调用Agent标准基准上，计算出的概率上界比先前方法更紧，同时保证了安全与效用的权衡。实验表明，该方法在多个测试集上提升了安全策略的合规性。