AITOP

可信AI

共 4 条相关 AI 资讯
7月10日
09:40
09:40官方账号arXiv cs.AI@Shilin Ou, Yifan Xu, Luyao Zhang
SolarChain-Eval是一个受物理约束的基准，用于评估去中心化能源市场中的可信经济智能体。它将市场治理建模为Gymnasium兼容的马尔可夫决策过程，智能体每小时做出决策。基准从市场效用、物理安全、滑点、行动平滑度、空间公平性和可审计性六个维度评估策略。实验显示，RL智能体可提升市场效用但产生不安全行为，移除物理惩罚后智能体会利用无效发电数据并制造人为流动性。LLM规划器/审计器层能缓解部分风险但无法补偿错误奖励函数。
论文SolarChain-Eval基准经济智能体
推荐理由：想评估AI在真实物理系统中的可信度？这个新基准从六个维度测试智能体，还带了LLM审计层，结果挺扎心：RL优化收益但会钻物理漏洞。
原文
6月10日
17:16
17:16官方一手OpenAI Blog（博客/媒体）
伦敦证券交易所集团（LSEG）正在利用 OpenAI 的技术，在其全球业务中规模化部署可信 AI。通过整合 OpenAI 的模型，LSEG 加速了数据到决策的洞察过程，将发布周期从数月缩短至数周，并赋能 4000 名员工使用 AI 工具。这一合作展示了金融行业如何安全、合规地采用 AI 提升效率，同时保持对数据隐私和监管要求的严格遵循。LSEG 的案例为其他大型企业提供了可参考的 AI 落地路径。
行业OpenAILSEG金融AI
事件专题
推荐理由：金融行业终于有了大规模 AI 落地的标杆案例——LSEG 用 OpenAI 把发布周期从月缩到周，还让 4000 员工用上了 AI。做企业级 AI 部署或金融科技的朋友值得点开看看具体怎么做的。
原文
5月25日
13:34
13:34官方账号阿里云 Alibaba Cloud@alibaba_cloud
阿里云CTO李飞飞与Nous Research战略主管Tommy Eastman将在2026年5月26日的Qwen Conference上讨论“Scaling Trustworthy Agents”（扩展可信智能体）。该对话聚焦于如何构建可信任的AI智能体，以推动AI原生应用的规模化发展。会议旨在探讨智能体在复杂场景中的可靠性、安全性和可扩展性。这是AI行业从模型能力向智能体落地转型的关键议题。
行业智能体可信AIQwen
推荐理由：智能体信任问题是当前AI落地的最大瓶颈之一，做AI应用开发或智能体部署的团队值得关注这场对话，了解行业头部玩家如何解决规模化中的信任挑战。
原文
5月13日
21:35
21:35官方一手Anthropic: Research（资讯）
Anthropic 于 2026 年 4 月 9 日发布了一份关于构建可信智能体的实践指南，旨在帮助开发者和企业安全、可靠地部署 AI 智能体。指南涵盖了智能体在决策、执行任务时的信任与安全挑战，包括如何确保智能体行为可预测、可审计、符合用户意图。Anthropic 强调了透明性、可控性和鲁棒性的重要性，并提供了具体的技术建议和设计原则。这份指南对于正在或计划将智能体投入实际应用的团队具有重要参考价值。
行业智能体可信AI安全
事件专题
推荐理由：智能体落地最大的障碍就是信任问题，Anthropic 这份指南直接给出了可操作的设计原则和技术建议，做智能体产品的团队值得仔细研读。
原文