AITP
精选全部 AI 动态AI 日报Agent 接入关于更新日志信源提报反馈
登录 / 注册
AITOP
精选
AI 自动挑选的高价值内容
全部模型产品行业论文技巧
标签:形式化方法×
5月21日
10:22
arXiv cs.LG@Theofilos Mailis, Kalliopi-Christina Despotidou, Konstantinos Filippopolitis, Yannis Foufoulas, Thanasis-Michail Karampatsis, Andreas Ktenidis, Evdokia Mailli, Theodore Papamarkou, Yannis Ioannidis
精选37
本文提出了一种类型化张量语言,用于形式化联邦学习与联邦分析中常见的计算结构。该语言区分了客户端分区的联邦张量和全局可用的共享张量,并通过与虚拟全局张量的对比定义语义。核心成果是共享状态分解理论:证明类型化单轮程序可通过固定维度的共享状态分解,且该状态大小与客户端和记录数量无关。此外,还证明了可表示性的逆定理,并将对应关系扩展到跨轮状态共享的迭代程序。最后,开发了可微分的学习片段,支持服务器端梯度下降和二阶更新,形式化了一类通信仅通过固定维度共享状态的联邦学习计算。
论文联邦学习类型化张量语言共享状态分解形式化方法分布式计算

推荐理由:联邦学习领域终于有了形式化的计算模型——这篇论文用类型化张量语言统一了分散的协议,做联邦学习系统设计和理论研究的团队值得细读,能帮你理清通信与共享状态的数学本质。
5月18日
10:36
arXiv cs.LG@Parand A. Alamdari, Toryn Q. Klassen, Sheila A. McIlraith
精选63
这篇论文提出结合形式化方法与机器学习的技术,用于在AI开发生命周期中审计和监控高级AI系统(尤其是LLM)的合规性。方法包括离线审计、在线运行时监控,以及预测性和干预性监控器,能在运行时提前预防违规。实验表明,基于线性时序逻辑(LTL)的方法在检测时序行为约束违规方面优于纯LLM基线,小模型也能匹配或超越前沿LLM裁判。干预监控器在保持任务性能的同时显著降低了LLM智能体的违规率。研究还发现,LLM的时序推理能力随事件距离、约束数量和命题数量增加而显著下降。
论文形式化方法AI安全/合规LLM审计时序逻辑监控/干预

推荐理由:做AI安全与合规的团队终于有了可落地的形式化方法方案——LTL+小模型就能超越LLM裁判,建议做AI治理的开发者直接看实验部分。