AITP
精选全部 AI 动态AI 日报Agent 接入关于更新日志信源提报反馈
登录 / 注册
AITOP

EU AI Act

共 5 条相关 AI 资讯
7月3日
09:41
09:41官方账号arXiv cs.AI@Ravi Kant Sharma
论文提出Guard Rail Validation(GRV)框架,用于拦截和验证自主电信网络(Level 4-5)中AI代理的实时决策。框架评估六个维度:行动范围、行动类型、服务关键性、代理自主级别、可逆性和时间行为模式,以确定关键性级别。根据级别应用四种验证机制:仅日志执行、边界检查、独立代理验证或多代理共识。框架还提供跨代理冲突检测和符合EU AI Act Article 14的运行时日志,并评估了对已知AI/ML攻击的威胁覆盖。
论文GRVO-RANEU AI Act自治网络AI安全

推荐理由:这篇论文搞了个GRV框架,专门防止AI在电信网络里乱做决定,按关键性分级检查,还能满足欧盟AI法规,挺实用的。
原文
6月23日
23:33
23:33官方账号LangChain@LangChainAI
欧盟AI法案生效后,合规将成为持续测量义务。LangSmith可将追踪转化为合规证据,其可定制评估器运行在生产流量上,针对偏见、幻觉、毒性、准确性和对抗性输入等EU AI Act要求进行评分。该工具支持实时监控,帮助企业自动生成合规报告。
AI产品LangSmithLangChainEU AI ActAI合规模型评估

推荐理由:LangChain给LangSmith加了合规评估器,直接在生产数据上检测偏见、幻觉,符合EU AI Act要求,省心。
原文
6月17日
10:42
10:42官方账号arXiv cs.AI@Michèle Finck
大型语言模型已能生成至少中位质量的法律文本,但现有法律AI评估仅测量辅助性任务,无法评价其是否执行教义性法律推理。欧盟AI法案对高风险司法AI要求“适当准确性”,却因缺乏教义性推理基准而无操作内容。这篇论文首次系统定义该测量空白,并呼吁建立对应的标准化评估。
论文LLMEU AI Act法律推理基准教义性推理

推荐理由:这篇论文直击法律AI评测的核心缺陷——现有基准只测写文书,不测真正懂法理。做法律AI或合规的朋友值得看看。
原文
6月15日
20:29
20:29官方账号LangChain@LangChainAI
LangChain发布了对即将生效的《欧盟人工智能法案》(EU AI Act)的详细解读博客。该法案对高风险AI系统提出人类监督等要求。LangSmith和LangGraph提供了多种方案来满足人机协同(human-in-the-loop)需求。博客中分解了法案的关键条款和合规时间线。
行业LangSmithLangGraphLangChainEU AI Act人机协同

推荐理由:想了解EU AI Act对AI开发的影响?LangChain官方博客刚出了详细解读,还告诉你LangSmith和LangGraph怎么帮你合规。
原文
20:27
20:27官方账号LangChain@LangChainAI
欧盟 AI 法案将人类监督设定为核心原则之一。法案要求 AI 系统做出的重大决定必须保持可质疑性,并且可由人类进行纠正。这为高风险的 AI 应用(如招聘、信用评估等)划定了合规底线。该原则直接影响企业在欧洲市场部署 AI 系统时的流程设计。
行业EU AI Act人类监督AI监管合规

推荐理由:欧盟给 AI 定了规矩:重大决策不能让机器说了算,必须人能改。做 AI 合规的得留意这个人类监督原则。
原文
精选全部日报登录