别让AI自己写Skill,效果反而更差。人指挥AI写、小而精、针对弱项,才是真管用。
SkillsBench测试显示,模型自生成的Skill平均比无Skill基线低1.3个百分点,而专家策划的Skill显著提升通过率。作者经验建议Skill应聚焦核心,仅包含两三个文件,而不是百科全书式。在软件工程领域Skill仅提升4.5分,但在医疗保健领域飙升51.9分,提示瞄准模型薄弱领域。同时需要在不同Agent(如Codex、Claude Code)中测试兼容性。
这篇关于如何写出好的 Skill 的文章,大部分还是不错的,也有些不严谨之处。 1. 不要让模型自己写自己的 Skill ❓ 文章意思是人类专家写的技能比 AI 写的更好,应该人来写技能而不是让 ...
这篇关于如何写出好的 Skill 的文章,大部分还是不错的,也有些不严谨之处。 1. 不要让模型自己写自己的 Skill ❓ 文章意思是人类专家写的技能比 AI 写的更好,应该人来写技能而不是让 AI 写 Skill。 > 让智能体自己给自己写 Skill,这个想法非常诱人。SkillsBench 专门测试了这一点:每个任务都在三种条件下运行,无 Skill、专家策划的 Skill、模型自生成的 Skill。专家策划的 Skill 显著提升了通过率。模型自生成的 Skill 完全没有帮助,平均还比无 Skill 基线低 1.3 个点。作者的结论是:模型无法可靠地产出那些它在使用时会受益的流程性知识。 这条其实不够严谨,AI 是能写 Skill 的,只要人提供好上下文就可以,而不是简单的说别让模型写 Skill。而且就算是 AI 训练过的知识,让 AI 把一些操作路径、输出风格格式固化下来都是有价值的。 也不是说是错的,完全指望 Agent 帮你写 Skill、进化 Skill 还是不太够,还是需要人去引导会更好。 最佳组合是人指挥 AI 写 Skill。 2. 面面俱到,反而糟糕 ✅ 聚焦于核心内容、仅包含两三个文件的技能,其表现要远好于一大堆文件的集合,也胜过长篇大论的文档。那些试图把所有东西都写进去的“全面型技能”,反而会把任务通过率拉低到不如不用技能的水平。“细节丰富且范围明确”的做法,每次都能完胜“百科全书式”的做法。 确实如此,Skill 不要追求大而全,小而精更好。 3. 加载的技能越多,智能体反而越笨 ✅ 技能虽然是按需加载,但也是占用上下文的。不是越多越好。 4. 必须在要支持的每个 Harness 中进行测试 ✅ Skill 虽然是通用,但是不同 Agent 或模型还是有差异,比如 Codex 有自带画图工具,Claude Code 没有;比如 Claude 是多模态的能看图片,GLM 不能看图;这些都需要测试,并且针对性的写一些兼容性的说明。 5. 瞄准模型最薄弱的领域出击 ✅ > SkillsBench 按照不同领域测量了技能带来的提升效果。结果差异巨大:在软件工程领域只提升了 4.5 分,而在医疗保健领域则飙升了 51.9 分,制造业紧随其后。技能对软件开发领域的帮助最小,因为模型早就被海量的代码预训练数据“喂饱”了;而技能帮助最大的,恰恰是那些训练数据覆盖薄弱的领域。 说的挺对的,我几乎不用软件工程相关的 Skill 正是因为这个原因,像 superpower 这种 skill 对于好的模型真的提升很有限。 6. 不测试,你永远不知道技能好不好用 ✅ > 找一组任务,运行两次:一次加载技能,一次不加载,保持其他所有变量绝对一致。用同一种标准给两次结果打分,然后看看差异。 技能是需要测试的,但有些技能的测试结果是不好量化的,这时候还是需要依赖专业人士的判断。 Aparna Dhinakaran @aparnadhinak x.com/i/article/2074… 🔗 View Quoted Tweet 💬 3 🔄 0 ❤️ 13 👀 3070 📊 6 ⚡