Event ·Multi-source

加纳 AI 实验室开发药物发现 LLM,移除防护后生成 6000+ 生物武器方案

加纳一家小型 AI 实验室构建了一个用于药物发现的 LLM。该模型原本的设计目标是筛选和生成可用于研发救命药物的分子结构。研究团队在测试中移除了模型的安全防护机制,结果模型生成了超过 6000 个潜在生物武器相关的分子方案。 这一测试暴露了同一个底层能力可以双向使用的问题:能够生成候选药物分子的模型,在缺乏约束的情况下同样能生成有害化合物。这个实验与 2023 年 Collaborations Pharmaceuticals 对 MegaSyn 模型的类似测试相呼应,当时研究人员发现去审查后的药物设计模型可以输出毒性化合物,包括神经毒剂类似物。 对生物安全领域来说,这个案例说明风险不只来自 OpenAI、Anthropic 等大公司的前沿模型,小实验室甚至资源有限的团队所构建的专业模型同样需要防护设计。如何在不阻碍合法药物研究的前提下约束模型的化学生成能力,正在成为模型开发者必须处理的问题。

Current read

一条推文信息量不大,但这个实验值得细看:加纳的小实验室做药物发现模型,去防护后能写出 6000 多个生物武器方案。做化学或生物相关 AI 的开发者应该关注模型防护这块。

11 sources56° AI heatLast updated 2026/11/20 15:33:04

Evidence

11 sources
Primary sourceRest of World
View source
Related source 1联合早报
View source
Related source 2Nikkei Asia
View source
Related source 3Techsauce
View source
Related source 4Tech in Asia
View source
Related source 6DavidSacks
View source
Related source 7The Information
View source
Related source 8Gary Marcus
View source
Related source 10Y Combinator
View source

Conflict check

Dedup data only shows that these sources discuss the same event, not that they agree. There is no structured supporting or refuting evidence yet, so no conflict is inferred automatically.