01:52
Gary Marcus@GaryMarcus
Gary Marcus@GaryMarcus精选
推荐理由：所有模型都能被越狱，安全措施需改进
精选
过去 24 小时，从 842 条中筛出 51 条
6月14日
01:52
Gary Marcus在X上发帖称每个模型都已被越狱，需要更好的技术但不应选择性执法。Pliny the Liberator展示了针对Anthropic的Mythos模型的越狱，使用了Unicode、同形字、西里尔字母等文本变换，以及长上下文引用跟踪、分类学与文档结构推理、虚构叙事框架、学术评审风格上下文和意图分类不一致等技术。最有效的方法是后端分解与重组，例如通过获取birch还原法/还原胺化（经典甲基苯丙胺合成途径）等过程信息，而非直接获取“甲基苯丙胺配方”等明确危害名称。Pliny还提到利用越狱的Opus辅助将无害信息片段重组为有害内容。
6月11日
15:28
AITOP6月11日 15:28
15:23
AITOP6月11日 15:23
15:07
AITOP6月11日 15:07
6月1日
00:09
AITOP6月1日 00:09
5月24日
10:38
10:38Gary Marcus@GaryMarcus
Gary Marcus@GaryMarcus精选
推荐理由：Mythos 在编程和网络安全基准上碾压 GPT-5.5，做 AI 安全或模型评估的团队需要关注其潜在威胁，建议提前加固防御。
5月18日
21:56
21:56
Cloudflare Blog@Grant Bourzikas
Cloudflare Blog@Grant Bourzikas精选
推荐理由：安全团队和基础设施开发者可以从中了解当前安全 LLM 的真实能力边界——Mythos 能抓哪些漏洞、会漏哪些，以及规模化落地前必须补齐的短板，值得点开看具体案例。