Feedback是人工智能系统中用于改进模型性能和用户体验的核心机制，通过收集和分析系统输出与期望结果之间的差异信息来优化AI行为。Feedback在AI领域扮演着至关重要的角色，它连接了用户需求与系统性能，是模型迭代和产品优化的关键驱动力。
Feedback 近期进展
40%的恢复率提升来自于Anthropic研究的Self-Reflective APIs，该研究通过结构化建议让AI Agent性能显著改善。Self-Reflective APIs：结构化建议让AI Agent恢复率提升40个百分点 Anthropic最近调整了其Claude系统的反馈机制，恢复对被安全拦截请求的计费，这反映了AI服务提供商在用户体验与安全边界管理间的平衡尝试。Anthropic 恢复对 Claude 被安全拦截的请求计费 OpenRouter平台新增了generate-image和send-feedback工具，扩展了用户与AI系统的交互渠道，使Feedback收集更加便捷。OpenRouter 推出 generate-image 和 send-feedback 工具当前焦点与观察点
吴恩达提出的Loop engineering方法强调三种反馈循环对AI agent持续迭代的重要性，这代表了Feedback机制在AI系统设计中的前沿思考。吴恩达老师讲 Loop engineering：三种反馈循环让 AI agent 持续迭代 最新研究Direct Feedback Alignment揭示了训练过程中共模崩塌的机制，为优化模型反馈提供了新视角。arXiv 论文解析 Direct Feedback Alignment 训练停滞的共模崩塌机制Feedback正从简单的对错判断向精细化、结构化方向发展，企业开始将用户反馈直接转化为产品路线图，如Codex技能展示的自动化流程。Codex技能：把客户反馈自动变成产品路线图 技术层面，PIHF方法将后训练强化学习引入上下文学习，拓展了Feedback在AI训练中的应用场景。PIHF：将后训练强化学习引入上下文学习的新方法