Rules 在人工智能领域指代多种形式的指导准则,包括用于智能体行为约束的硬性规则、模型指令配置以及统计模型评估中的评分规则。这些规则帮助确保 AI 系统按预期运行,并量化预测性能。
Rules 在 LLM 智能体中的近期进展
CLAUDE.md 到 Subagents 全解析 列出了 Claude Code 的 7 种指令配置方式,包括 CLAUDE.md 文件和子代理 (Subagents) 结构,通过分层规则设置控制模型行为,提升任务执行准确率。
JERP:面向 LLM 智能体的经验规则与策略联合学习 提出一个联合框架,让智能体同时学习经验规则(显式约束)和策略(隐式决策),在复杂环境下的任务成功率提升约 12%,同时保持规则可解释性。
Proper Scoring Rules for Right-Censored Survival Data 针对医学预测场景定义了新的评分规则,解决传统方法对删失数据评估偏倚问题,使模型排名更可靠。
当前焦点与观察点
规则的设计正从人工编写向自动学习转变:JERP 表明联合学习能平衡规则刚性与策略灵活性;而 Claude Code 的多种配置说明用户仍需要显式规则以确保安全与可控。评分规则则在模型评估中扮演关键角色,尤其在生存分析等高风险领域。未来规则系统需解决规则冲突、泛化能力及与人类价值观对齐等挑战,这是 AI 安全研究的重要方向。