Confidence Sequences for Online Statistical Model Checking of Markov Decision Processes

精选理由

这篇论文用置信序列代替传统联合界方法,让MDP采样效率平均提升50倍,做在线统计模型检验的人可以看看。

AI 摘要

本文提出用于Markov决策过程(MDP)在线统计模型检验的置信序列方法。传统方法依赖已知转移概率或通过子优采样策略,而新方法利用在线置信序列避免了经典的联合界(union-bound)风格。作者实现了所有方法并证明其比先前最先进技术平均减少50倍样本量。实验表明,新方法在保证统计保证的同时显著提升采样效率。

AI 翻译 · 中文

本文提出用于Markov决策过程(MDP)在线统计模型检验的置信序列方法。传统方法依赖已知转移概率或通过子优采样策略,而新方法利用在线置信序列避免了经典的联合界(union-bound)风格。作者实现了所有方法并证明其比先前最先进技术平均减少50倍样本量。实验表明,新方法在保证统计保证的同时显著提升采样效率。

arXiv cs.AIMarkov decision processes (MDPs) are a classic model of decision making under uncertainty, exhibiting both non-deterministic choice as well as probabilistic uncertainty. Traditionally, exact knowledge of the underlying p