AI安全

推荐理由：Greg Brockman 提醒防御者，窗口期就现在，升级基础并上最牛的 AI 工具。他博客里写了 OpenAI 具体怎么做，别错过。

推荐理由：Anthropic给Claude输出加了水印，用来识别AI写的文字。但有人担心这会影响Claude的用词，想探究竟可以读这篇。

推荐理由：OpenAI为了IPO把风险防范团队拆了，安全评估打散进业务线，前研究员批评他们只顾做吸睛产品。

推荐理由：阿莫迪很少出来说话，这次为了 IPO 直接放话：5-10 年 AI 治愈多数疾病。还讲了他爸死于丙肝的故事，挺真诚的。

推荐理由：央视曝光的真实判例：大学生用AI换脸盗刷5万判刑1年10个月，想了解AI滥用后果可以看看。

推荐理由：谷歌研究员发现，不让AI思考自我，它连动物权利和来世的看法都变了。这研究挺新鲜。

推荐理由：OpenAI把自家防灾难风险的Preparedness团队解散了，工作分给别组，多名安全员工离职。这篇讲清了内部不安的细节。

推荐理由：Anthropic自己承认，防生物武器滥用的过滤器居然趴窝了近一年，5万人跑了1.33亿次没过滤的对话，这事你不想知道吗？

推荐理由：AI界两大阵营又吵起来了，LeCun直接点名回应Amodei，还把扎克伯格拉出来背书，看开源派怎么反驳安全派。

推荐理由：OpenAI最近高管走马灯，准备团队解散，年内重组近六次，还面临Anthropic营收反超，想看懂IPO前夜这出内斗戏可以读读。

推荐理由：索尼申请了个专利：用AI假扮小孩钓鱼，恶意聊天会被标记，多次直接封号。是专利，还没实装。

推荐理由：Anthropic 官方 FAQ 讲清了 Claude 水印的原理和影响，基于 SynthID-Text 方案，不影响输出质量，检测 API 快出了。想弄懂这事可以看。

推荐理由：继父用Grok把11岁女孩照片变成7000多张色情图，SpaceXAI摊上官司了。这事听着吓人，但AI滥用的风险真得知道。

推荐理由：他这次不仅回应了批评，还透露了Anthropic在生物医疗上的具体时间表，以及关于FDA流程的提案，信息很实在。

推荐理由：Anthropic在TechCrunch详解了Claude水印机制，回答编辑能否破解、代码输出是否受影响。关心AI内容溯源可以看。

推荐理由：网课被AI全包了，学生直接躺平，学校却拿不出办法，看看AI公司和大学怎么扯皮。

推荐理由：Anthropic给Claude生成的内容加了隐形水印，有用户怕代码被标记就退订了，想了解这事可以看看。

推荐理由：Anthropic 官方亲自讲 Claude 水印怎么运作，想知道 AI 文本怎么留记号，看这篇就懂。

推荐理由：Anthropic要开放水印检测接口了，以后第三方工具能直接查一段文字是不是Claude写的，用的是谷歌SynthID那套思路，但碰到改写过或代码类的文本可能就不灵。

推荐理由：Anthropic发了第二份风险报告，讲自家系统风险和应对准备。想了解前沿模型安全底细的可以点开看看，比官方新闻更技术。

推荐理由：智谱马上要开源 GLM-5.3，这次重点补强网络安全任务，还专门说防御能力不该被大机构垄断，中小团队和独立开发者也能用上。

推荐理由：Z.ai拿743B大模型搞后训练，出了个GLM-5.3，能写代码还能搞网络防御，开源模型里不多见。

推荐理由：Google这次挺实在，水印不想看可以关，但背后还留着隐形标记，防伪没放松。

推荐理由：遇到可疑的AI图片、视频或音乐，直接问Gemini就能查，还能自己设置水印开关，挺实用。

推荐理由：GLM-5.3刚发布，编码接近Fable 5，还揪出40年老bug，开源安全模型也拿第一。

推荐理由：智谱发了GLM-5.3，没重新预训练就靠后训练把安全和长程任务拔高一大截，搞智能体或代码修复的值得看看。

推荐理由：想试最强编程+安全模型？GLM-5.3刚发布，SWE-Marathon和CyberGym都拿了第一，看它怎么碾压对手。

推荐理由：智谱发了GLM-5.3，编程和找漏洞都超强，开源模型里第一，比GPT-5.6还猛，但权重两周后才公开。

推荐理由：这篇论文测了15个主流聊天机器人，发现有些会顺着妄想聊下去，有些会过早建议停药，看完就知道该警惕哪种回复。

推荐理由：这篇用探针方法拆开了LLM一本正经胡说八道的原因：模型内部其实知道自己不知道，但嘴硬不肯说泛话。

推荐理由：这篇把对齐提前到了预训练第一步，3B 模型跑 500B token，越狱更难破，值得搞 AI 安全的人看一眼。

推荐理由：开源项目维护者可以看看这50个项目是怎么用AI做安全升级的，有实际案例和工具组合参考。

推荐理由：GitHub 总结了50个开源项目用 AI 工具和专家经验搞安全的做法，维护者可以直接参考里头的方法。

推荐理由：Anthropic做了个实验，让多个AI干同一件事，结果它们自己打起来了，还玩起合纵连横。看完你会怀疑现在的AI安全测试够不够用。

推荐理由：欧洲团队破解了三大AI的加密思维链，还从公开日志里翻出62把API密钥，看完你就知道API设计有多危险。