精选理由
AI 安全与可用性的矛盾在 Fable 5 上暴露无遗——连高中生生物题都答不了,做生物研究或教育的人会直接受影响,建议点开看看这种取舍是否合理。
Anthropic 最新发布的 Claude Fable 5 模型,号称最强 AI,却因安全限制拒绝回答大量基础生物问题,如细胞膜、线粒体等。公司称这是为了防范生物武器风险,采取了保守的防护策略。实际测试显示,许多无害问题也被误判拦截,而化学、网络安全类问题则相对宽松。Anthropic 表示未来将面向专业群体推出解除限制的版本。
AI 翻译 · 中文
Anthropic 最新发布的 Claude Fable 5 模型,号称最强 AI,却因安全限制拒绝回答大量基础生物问题,如细胞膜、线粒体等。公司称这是为了防范生物武器风险,采取了保守的防护策略。实际测试显示,许多无害问题也被误判拦截,而化学、网络安全类问题则相对宽松。Anthropic 表示未来将面向专业群体推出解除限制的版本。
IT之家 6 月 11 日消息,Anthropic 昨日推出了 ClaudeFable 5,称其为该公司目前面向大众开放的最强人工智能模型,并着重夸赞了其在生物学等领域的能力。但这款模型却无法解答高中生本应掌握的基础生物问题,而是会将相关提问转接给此前的旗舰模型 Claude Opus 4.8。 这并非因为 Fable 5 不知道答案,而是 Anthropic 从设计层面主动做了限制。 据IT之家了解,Fable 5 属于对外公开的“M…