LLM安全是指确保大型语言模型在生成内容时避免产生有害、偏见或误导性输出的技术和管理措施，是当前AI治理的核心议题。随着模型能力的提升和应用场景的拓展，LLM安全面临从对抗性攻击到对齐篡改等多元挑战，相关研究和实践正快速演进。
LLM安全近期进展
当前焦点与观察点
LLM安全领域的当前焦点集中于攻击面扩展与防御手段的协同进化。一方面，攻击者利用语言多样性、多轮交互和记忆系统等特性创新越狱路径，如低资源语言和记忆导致的谄媚行为；另一方面，业界正构建更系统的评估框架（如garak、STRIDE-AI）和动态防御机制。值得关注的是，对齐过程本身成为攻击目标，RLHF的篡改揭示了深层次安全隐患。此外，安全措施的透明化与一致性成为争议点——模糊拒绝可能引发用户不信任，而明确披露又可能被利用。未来，LLM安全需要跨语言、跨模态的持续监控，并平衡鲁棒性与可用性。