01:55宝玉@dotey精选Mitchell Hashimoto 在 AGENTS.md 文件和代码注释中嵌入 prompt injection。这些注入用于检测未审查代码就直接提交至另一位人类维护者的贡献者。一旦检测到,他会立即封禁该贡献者。他认为在开源项目中,跨越人类边界前进行人工审查是基本礼貌。行业prompt injectionAGENTS.mdMitchell Hashimoto开源项目AI安全推荐理由:Mitchell 这招挺狠,在项目文件里埋 prompt injection,谁不审代码直接提交就封号。搞开源维护的可以学学这招防饭圈。原文
17:46Viking@vikingmuteMitchell Hashimoto 指出,许多公司陷入严重的 AI 痴迷状态,认为 AI 代理能快速修复 bug 就可以忽视系统质量。他警告,这种心态会导致局部指标健康但全局系统变得不可理解,bug 报告下降但潜在风险爆炸,测试覆盖率上升但语义理解下降。他类比云基础设施时代的教训:自动化可能制造出看似稳健的灾难机器,底层架构在快速变化中悄悄腐烂。行业AI 痴迷系统自动化技术债务工程管理Mitchell Hashimoto推荐理由:做技术决策或工程管理的读者会后背发凉——AI 痴迷正在让系统变得黑盒化,看完你会重新审视团队对 AI 的依赖程度。原文