近期关于AI系统可靠性的讨论集中在模型输出的真实性、智能体的稳定性以及评估框架的缺陷上。随着LLM在叙事生成、推荐系统等任务中的应用，研究发现即使在准确率较高的场景下，模型仍存在脆弱性。例如，一项新基准测试显示，LLM在自动化叙事任务中仍不如人类专家可靠，尤其在长上下文和因果一致性方面存在缺陷（LLM自动化叙事缺陷：新基准测试揭示人类专家仍占优）。同时，推荐系统领域也引入可验证基准τ-Rec，强调智能体推荐结果的可重复性和可靠性（τ-Rec：面向智能体推荐系统的可验证基准）。
另一焦点是模型记忆与置信度表达问题。研究发现LLM智能体的记忆不可靠，反复重写反而加剧错误（LLM智能体记忆不可靠：反复重写反而更糟）；而大型推理模型在表达置信度时难以做到忠实，新框架量化了这一“置信度不忠实”问题（大型推理模型无法忠实表达置信度：新框架量化FC问题）。此外，Claude Opus 4.8更新强调编程更可靠并减少无依据结论（Claude Opus 4.8 上线：编程更可靠，减少无依据结论），但即使模型不变，部署后的性能也可能逐渐“老化”（UT Austin 论文：AI 智能体部署后性能会“老化”，即使模型不变）。
当前焦点在于如何在智能体系统广泛应用前建立有效的监控与评估机制。有观点主张在系统完全可靠前进行持续监控（监控智能体系统：在它们可靠之前），而2026年生产环境Agent评估指南则提出区别对待“刷上限”与“抬下限”两种策略（2026 年生产环境 AI Agent 评估指南：刷上限 vs 抬下限）。未来观察点包括：如何设计更鲁棒的置信度校准方法，以及如何防止模型在部署后的性能衰退。