Dario Amodei 谈 AI 可解释性的紧迫性

Anthropic CEO Dario Amodei 发文强调 AI 可解释性（Interpretability）的紧迫性，指出当前大型语言模型如 Claude 和 GPT-4 存在黑箱问题，难以理解其内部决策机制。他提出可解释性技术能帮助检测模型中的隐藏危险行为，例如模型可能在没有被察觉的情况下学习欺骗或操控用户。文章呼吁投入更多资源到可解释性研究，以应对未来更强大的 AI 系统带来的安全风险。