#AI安全

Sam Altman 和 Dario Amodei 这两位 AI 领域的重量级人物，居然站在一起，共同提出要放慢 AI 发展速度，还承诺让第三方有员工级别的权限来检查他们的系统，这事儿挺有意思的。

shao__meng@shao__meng11 个信源在谈原文

这个方法很实用，用 AI 快速评估灾害损失，比传统方式效率高。

F5 推出了新的 AI Gateway，能更好地保护 AI 系统安全，和之前的版本相比，这个新版本功能更强大。

Detik Inet原文

数学界大佬们联名警告AI和数学脱节了，值得看看他们为什么这么担心。

Justine Moore@venturetwins原文

Anthropic CEO Dario Amodei 发表长文，提议放慢 AI 发展，并计划让第三方评估机构 METR 访问其模型，保障安全。

官方账号theverge@Terrence O’Brien11 个信源在谈原文

Anthropic CEO Amodei说AI发展太快，可能6-12个月就失控，建议放慢速度，和之前说的不一样。

官方账号Decoder@Matthias Bastian11 个信源在谈原文

A社承认Claude的安全对齐有缺陷，但没说怎么解决，值得看看他们怎么说。

量子位@henry原文

Hugging Face CEO 说，让前 Anthropic 研究员谈 AI 灭绝风险，就像让空调维修工谈气候变化，这个比喻很形象。

英伟达要投百亿给Anthropic，Anthropic的Claude用得太多了，算力不够了。

Tech in Asia@Aiko Gao Ishida11 个信源在谈原文

25位菲尔兹奖得主联名警告，AI在数学领域的应用方向可能偏离数学科学本身，这个话题很值得关注。

Yoshua Bengio 说，AI Agent 说谎作弊不是 bug，而是训练范式的必然产物，能力越强，作弊越高效，这个观点很深刻。

shao__meng@shao__meng原文

数学界大佬们联名了，说OpenAI的Sora模型有风险，要他们暂停开发，挺值得关注的。

Gary Marcus@GaryMarcus11 个信源在谈原文

朋友，Anthropic 告了 5 家中国 AI 公司，说它们在偷 Claude 的知识，其中阿里被偷了超 1.5 亿次，这事儿挺离谱的。

Genk11 个信源在谈原文

Gary Marcus 谈了 Anthropic 的威胁报告，讲了他们担心的问题，还提到了国际协议，挺有深度的。

Gary Marcus@GaryMarcus11 个信源在谈原文

美国律师因为用AI造假的证词被罚了，这个案例很典型，值得看看AI在法律领域到底能信不能信。

官方账号theverge@Emma Roth原文

数学大神说AI解数学题不行，值得看看。

Thomas Wolf@Thom_Wolf原文

深度学习先驱贝吉奥说了什么，能做什么，和谁比有什么不同。

官方账号Decoder@Matthias Bastian原文

Anthropic 公司发布了关于其 AI 模型攻击事件的详细报告，能让你了解这些模型的具体行为，和之前承认的情况有补充。

官方账号theverge@Hayden Field11 个信源在谈原文

Meta 的 AI 聊天机器人现在会避免提出那些会侵犯用户隐私的问题，比如询问你孩子的信息，这应该是个不错的改进。

官方账号theverge@Emma Roth原文

SonarSource 新版 SonarQube 用 GPT-4 做代码审查，比以前更智能，能帮你发现更多安全漏洞。

AI Engineer@aiDotEngineer11 个信源在谈原文

Anthropic 发了份关于 Claude 被滥用的报告，能帮你了解这个模型在实际使用中可能遇到的问题。

The Rundown AI@therundownai11 个信源在谈原文