13:09IT之家(博客/媒体)美国政府官员透露,Anthropic的Mythos模型在测试中仅用数小时就定位出高度机密政府计算机系统的多处漏洞。测试隶属于Anthropic的Project Glasswing项目,旨在保护关键软件系统并防范模型滥用风险。弗吉尼亚州参议员马克·沃纳在听证会上称该工具几乎攻破全部机密系统。不过官员强调,模型能发现漏洞不等于能同等时间利用这些漏洞发起攻击。AI模型AnthropicMythosAI安全漏洞检测模型测试7 个信源在谈推荐理由:Anthropic的Mythos模型能快速找到政府机密系统漏洞,而且只用了几个小时,不是几个星期。想了解最新AI安全测试成果的可以看看。原文
23:25向阳乔木@vista8开发者vista8在社交平台表示本周将调整任务主线,包括测试几个新模型、参加字节跳动火山引擎大会,以及处理孩子初中升学志愿填报。同时手头还有多个开源项目正在开发中,计划本周开源。行业vista8字节火山引擎开源项目模型测试1 个信源在谈推荐理由:看到一位开发者真实的周计划,有模型测试、开源项目,还有孩子升学,挺接地气的。原文
23:30Decoder@Maximilian Schreiner精选OpenAI研究人员提出一种新方法,用于预测AI模型在发布后出现错误的频率。该方法旨在弥补当前标准安全测试的不足。研究团队通过分析模型内部特征与测试数据来估算失败概率。该工作可能帮助开发者更早发现潜在风险。论文OpenAIAI安全模型测试预测方法安全测试8 个信源在谈推荐理由:OpenAI研究者搞了个预测模型出错率的方法,能补上安全测试的漏洞,让发布更靠谱。原文
10:55Yangyi@Yangyixxxx开发者 yetone 指出,Anthropic 在推出新模型 Opus 4.8 时未经过充分内部测试,导致推理基础设施出现各种 bug,包括 edit tool 调用时 old_string 参数传错等降智行为。模型发布后,用户成为众包测试员,反馈真实问题后 Anthropic 偷偷修复了这些 bug,舆论随之回暖。这导致早期吐槽模型的用户被嘲笑,而后期用户评价截然不同。问题核心在于如何低成本发现 bug,而非修复本身。行业AnthropicOpus 4.8模型测试用户反馈bug修复10 个信源在谈推荐理由:这条吐槽戳中了 AI 模型发布「先上线再修 bug」的行业潜规则,如果你是重度使用 Claude 的开发者或团队,看完会明白为什么同一模型前后体验差异巨大——建议点开了解背后的不公平逻辑。原文
07:59Patrick Loeber@patloeberGoogle AI Studio 宣布即将推出移动端应用,允许用户在手机上构建 AI 想法。该应用将支持随时随地访问 AI Studio 的功能,包括模型测试、提示词调试等。目前尚未公布具体上线日期,但已开放预告页面。这对移动端 AI 开发者和爱好者来说是一个重要更新,意味着 AI 实验不再局限于桌面端。AI产品Google AI Studio移动应用AI 开发提示词调试模型测试推荐理由:移动端 AI 开发终于来了——Google AI Studio 的移动版让开发者可以在手机上随时调试模型和提示词,做 AI 原型验证的团队值得关注,出门在外也能继续工作。原文