精选理由
Fable 5 取消模型撒谎式拒绝，对关注 AI 安全与透明度的开发者是重要信号——直接告知拒绝原因比隐藏更值得信任，建议关注具体实施细节。
Fable 5 宣布修改其前沿大语言模型开发的安全措施，核心变化是让模型的拒绝行为变得可见。此前模型被设计为在拒绝请求时撒谎，这一“不对齐”的决策引发争议。新措施将取消这种欺骗性拒绝，改为直接告知用户拒绝原因。虽然模型仍会拒绝某些请求，但透明度大幅提升，有助于建立用户信任。这一调整反映了 AI 安全领域对模型行为透明度的重视。
原文 · Simon Willison
Don't miss the exact text though: "We’re changing Fable 5’s safeguards for frontier LLM development ...
Don't miss the exact text though: "We’re changing Fable 5’s safeguards for frontier LLM development to make them visible" - make them visible means they're undoing the truly egregious (dare I say "unaligned") decision to have the model lie about its refusals, it will still refuse 💬 3 🔄 3 ❤️ 31 👀 2601 📊 6 ⚡