AITOP

Harness Engineering

共 3 条相关 AI 资讯
7月8日
11:58
11:58官方账号Latent Space (swyx)（博客/媒体）
OpenAI 研究员 Lilian Weng 发布了一份综述，汇总了 35 篇关于递归自我改进（RSI）控制工程（Harness Engineering）的论文。该综述梳理了不同控制策略和安全性分析方法。对理解 AI 自我改进的风险与调控有参考价值。
论文Lilian Weng论文综述RSIHarness EngineeringAI安全
推荐理由：Lilian Weng 帮你扒了 35 篇关于 RSI 控制工程的论文，想了解 AI 怎么自我调控又不跑偏的，直接看这份总结就行。
原文
7月7日
15:15
15:15shao__meng@shao__meng
精选
Lilian Weng 在博客中提出，短期 RSI 将通过模型改进其部署系统（harness）实现，而非直接重写自身权重。博客归纳了三类基础设计模式：workflow automation、文件系统持久记忆、子 agent 并行。在 harness 优化上，介绍了 Context Engineering（ACE/MCE）和 Meta-Harness 双层搜索，并实验了 Self-Harness 可学到针对不同基座模型弱点的特定指令。STOP 方法在 GPT-4 有效，但在 GPT-3.5 和 Mixtral 上退化。进化搜索方法 Darwin Gödel Machine 在 SWE-bench Verified 上将得分从 20% 提升至 50%。
论文Harness Engineering递归自我改进智能体编程助手Lilian Weng
推荐理由：这篇博客把 auto-research、自改进 agent 等方向的工作收成系统框架，想了解 RSI 怎么落地可以看。
原文
6月7日
09:44
09:44官方一手pandaily@contact@pandaily.com (Pandaily)
Harness Engineering 是近期 AI 领域兴起的新概念，旨在通过系统化方法将 AI 模型的能力“驾驭”到实际应用中。它强调在模型训练之外，设计有效的输入输出接口、反馈循环和任务分解策略，以提升 AI 系统的可靠性和实用性。这一范式被认为是对传统“提示工程”的升级，尤其适用于复杂任务和多步骤工作流。该概念由多位 AI 研究者和从业者推动，正在成为行业讨论的焦点。
AI模型Harness EngineeringAI 范式提示工程系统化方法AI 应用
推荐理由：Harness Engineering 解决了 AI 落地中模型能力与真实场景脱节的问题，做 AI 应用开发或系统集成的团队值得关注，它可能改变你设计 AI 工作流的方式。
原文