14:58IT之家(博客/媒体)Anthropic 于 8 月 7 日发布博文,更新 Claude Fable 5 的生物安全防护机制。官方测试数据显示,生物学相关问答的降级现象减少了 85%。安全分类器经过调整后,能更准确区分无害问题与高风险生物任务。Fable 5 仍会限制专业生物学研究和药物开发相关请求,以防范生物武器滥用风险。AI模型Claude Fable 5Anthropic生物安全10 个信源在谈事件专题推荐理由:Anthropic 给 Claude Fable 5 的安全拦截做了次大调整,误伤少了 85%,做生物相关提问更不容易被降级了。原文稍后读已读值得跟进有用关注 Claude Fable 5
01:58官方账号Decoder@Matthias Bastian83°Anthropic将Fable 5生物学安全过滤器的误报率降低了约85%。此前,几乎所有生物学相关查询都会被拦截并转交给能力较弱的Opus 5。现在,普通生物学问题可直接由Fable 5处理,但病毒学和毒理学等敏感双用途主题仍保留原有限制。AI模型AnthropicFable 5Opus 510 个信源在谈事件专题推荐理由:Anthropic把Fable 5的生物误报砍了85%,普通生物问题不再被转给Opus 5,但病毒毒理还是管得严。原文稍后读已读值得跟进有用关注 Anthropic
13:12Claude@claudeaiAnthropic更新了Claude Fable 5的生物安全防护机制,以减少误报。该更新使生物学相关的回退数量在多个产品面上减少约85%。Fable现在能处理更多日常健康和教育类问题。但对于病毒学、毒理学和分子设计等双用途请求,仍会回退到Opus 5。目前它还无法用于专业生物学研究和药物开发。AI模型Claude Fable 5Opus 5Anthropic10 个信源在谈事件专题推荐理由:Claude Fable 5把生物安全误报砍了85%,日常健康问题能直接答了,但病毒学这类敏感领域还是交给Opus 5。原文稍后读已读值得跟进有用关注 Claude Fable 5
11:30官方账号arXiv cs.LG@Jeremy Guntoro, Alexander Dack, Dylan Danno, Michaela Jančovičová, Križan Jurinović, Vanessa Smilansky该研究使用Evo 2模型第26层激活训练线性及注意力探针,检测宏基因组中抗菌素耐药性(AMR)。线性探针区域级ROC-AUC达0.888,单头注意力探针升至0.977。探针能区分AMR药物子类别,细菌毒力检测较弱(区域级ROC-AUC 0.833)。在模拟短读上无需重训练即达0.898的ROC-AUC。稀疏自编码器分析不如监督探针一致。论文Evo 2AMRROC-AUC推荐理由:这篇论文用Evo 2搞生物安全筛查,探针测耐药基因最高准到0.977,比自编码器靠谱还不用重训练。原文稍后读已读值得跟进有用关注 Evo 2
02:40官方账号OpenAI@OpenAI73°OpenAI宣布将其Bio Bug Bounty项目升级为持续的私人悬赏计划,并翻倍奖励至5万美元。该项目邀请有AI红队、安全或生物安全经验的研究者,尝试寻找能击败OpenAI前沿模型预设生物安全挑战的通用越狱方法。这是OpenAI强化生物领域高级AI能力安全防护的一部分。行业OpenAIBio Bug BountyAI安全10 个信源在谈事件专题推荐理由:OpenAI把生物安全漏洞奖金涨到5万刀,专门招安全专家找模型越狱。搞安全或生物的人快来试试。原文稍后读已读值得跟进有用关注 OpenAI
02:23官方一手@OpenAIDevs@OpenAIDevs82°OpenAI 宣布 GPT-5.6 是其当前在网络安全和生物相关任务上能力最强的模型。部分 API 调用可能被阻止或暂停,以便安全系统在双用途领域(如网络安全)进行额外审查,因为防御性和攻击性活动初看相似。OpenAI 表示将根据实际使用持续调整安全措施。该发布强调了模型在敏感领域的应用风险与安全平衡。AI模型GPT-5.6OpenAI网络安全10 个信源在谈事件专题推荐理由:OpenAI 出了 GPT-5.6,专攻网络安全和生物任务,API 调用还会被安全审查,想了解最前沿模型能力与安全权衡的可以看看。原文稍后读已读值得跟进有用关注 GPT-5.6
10:30官方一手arXiv: OpenAI@Andrew Bo Liu, Samira Nedungadi, Bryce Cai, Alex Kleinman, Harmon Bhasin, Seth Donoughe72°ABC-Bench(Agentic Bio-Capabilities Benchmark)是一个用于评估大型语言模型智能体在生物安全相关任务上能力的基准测试套件。它包含三类任务:编写代码操作液体处理机器人、设计用于体外组装的DNA片段、以及规避DNA合成筛选。所有测试的LLM智能体在三项任务上均超过了人类专家基线水平,但在需要新颖生物信息推理的任务上表现较弱。湿实验验证显示,OpenAI的o4-mini-high模型生成的脚本成功在OpenTrons机器人上组装出预期序列的DNA。该基准旨在量化AI在生物研究中的双刃剑效应——既推动科学进步,也带来新的生物安全风险。论文生物安全LLM智能体基准测试7 个信源在谈事件专题推荐理由:这是首个系统评估LLM智能体在生物安全关键任务上能力的基准,做AI安全或生物计算的研究者值得关注——它揭示了当前模型在复制已知协议时很强,但在创新推理上仍有短板。原文稍后读已读值得跟进有用关注 生物安全
01:34The Rundown AI@therundownai一封由Sam Altman、Dario Amodei、Demis Hassabis等AI与生物领域领袖联署的公开信,警告AI系统在病毒学领域已超越博士级专家,可能降低生物武器获取门槛。信函呼吁美国国会强制要求合成DNA订单及打印设备进行筛查,并保留记录以便追溯。签署方包括多位诺贝尔奖得主和DNA合成行业代表,强调知识壁垒正在瓦解,恶意行为者可能利用AI制造生物武器。此举标志着AI安全与生物安全交叉领域的重要政策推动。行业AI安全生物安全DNA合成10 个信源在谈事件专题推荐理由:AI安全与生物安全的交叉点首次获得业界最高级别联名呼吁,做政策研究、生物科技或AI治理的从业者值得关注这一立法动向。原文稍后读已读值得跟进有用关注 AI安全
18:27官方账号Decoder@Matthias BastianSam Altman、Dario Amodei、Demis Hassabis等科技领袖联合敦促美国政府将合成DNA订单筛查设为法律要求。他们警告,AI系统在实验室操作上已超越博士级病毒学家,增加了生物武器滥用的风险。此举旨在防止AI技术被用于制造危险病原体,确保生物安全。行业AI安全生物安全DNA监管推荐理由:AI在生物领域的进展已引发安全担忧,关注AI治理和生物安全的从业者、政策制定者应了解这一立法呼吁,它可能影响未来AI应用的监管框架。原文稍后读已读值得跟进有用关注 AI安全