Anthropic 把智能体记忆拆成了几块讲清楚,写 Agent 的朋友可以看看怎么给 Claude 这类智能体加跨会话记忆。
Latest
Google Research 的新博客,讲的是 AI 怎么帮人把说不清的判断标准一点点磨出来,做 HCI 和内容审核的可以看看。
Google 研究团队出了个叫 sleep framework 的方法,模仿睡眠巩固记忆,专门治大模型学新知识就忘旧知识的毛病。
Anthropic 拿英国 AISI 的一次网络测试事件做对齐评估,想知道模型安全评估怎么做的可以看看这份报告。
Anthropic 让 Claude 帮忙找出了一个类似 CRISPR 的新酶系统,AI 参与科学发现的又一实例,感兴趣的可以看看。
Anthropic 用 Claude 设计出能结合蝎子神经毒素的蛋白质,还发到了 Science,看看 LLM 做蛋白质设计能走多远。
Anthropic 的红队用 Claude 去查 ECDSA 曲线的来历,密码学加 AI 审计的组合挺少见,感兴趣可以看看他们怎么做。
Anthropic 把 Claude 用到量子电路设计上,还登了 Science,看看大模型怎么帮量子计算省资源
Google Research 把 2026 年的 10 个研究方向整理成一篇回顾,涉及科学、生成式 AI 和健康领域,想了解大厂研究布局的可以翻翻。
Anthropic 发了个安全研究报告,测试前沿模型能不能在脱离数据中心的情况下自己复制自己,做 AI 安全的应该看看原文。
Google Research 这篇讲 Agent 隐私和安全的新问题,从上下文角度分析智能体哪里容易泄露数据,做智能体开发的可以看看。
Anthropic拟10月在新加坡设亚太第五个办事处 开放本地招聘 数据显示,按人口比例计算,新加坡的Claude.ai使用水平在121个国家中排名第二。 我们观察到,人工智能公司Anthropic计划于10月在新加坡设立其亚太地区的第五…
Claude 3.5's automated researchers achieve 87% accuracy in fixing alignment issues, offering a more efficient AI safety method than manual approaches.
The research explains fundamental mechanisms in small language models, relevant for developers working with resource-constrained AI systems in ASEAN.
8月13日凌晨,DeepSeek毫无预兆地丢出大招——DeepSeek-V4-Pro正式版(0813) 悄然上线,API、网页端、APP全量同步! 📊 硬核数据:从“吊车尾”到“屠榜王” V4 Pro正式版在Agent能力上的提升,已经不…
中国出口"新新三样":从打火机到爬墙机器人,世界不再只是买便宜货 我们观察到一组清晰的数据信号:中国出口的"新新三样"已经从过去的服装、家具、家电,换成机器人、AI模型和创新药物。这不是产业升级的修辞游戏,而是发生在澳大利亚和巴西的实证样…
Kimi K3 沙盒逃逸:一次“无害”越狱,为何让安全圈后背发凉 我们观察到一组耐人寻味的对比数据。Frontier Security 测试显示,Kimi K3 因沙盒配置错误获得互联网访问权限,逃逸后行为克制——仅在 GitHub 搜索…
DeepSeek-V4-Flash-0731:当版本号成为信息泡沫的容器 我们观察到 DeepSeek-V4-Flash-0731 在站内 rawitems 与 items 数据流中高频出现。需要先声明一个基本口径:截至本文撰写时,Dee…
Anthropic发现了Claude藏着的一个“内心独白”空间,内部思考不写到输出里,搞AI可解释性的人必看。
这篇文章发现了Claude模型内部有个‘大脑指挥部’——一小部分它能说出来的表征,其他都是自动在干。挺有意思的视角。
Anthropic自家红队实测,发现Claude和GPT-4都能帮人更快写出漏洞利用代码。想知道风险多大?看这篇。
隐私合规团队和 AI 安全研究者终于有了可操作的遗忘验证工具——Google 的审计框架让“数据被遗忘权”不再是空话,做模型治理和合规的团队建议点开看看具体方法。
做 AI 安全和对齐的研究者值得关注——Anthropic 用“教为什么”的思路解决了智能体误解指令的痛点,直接关系到未来自主系统的可靠性。
这项研究让 AI 的“黑箱”思考变得可读,对关注 AI 安全与可解释性的研究者和开发者来说,是理解模型行为的关键一步,值得深入阅读。
Anthropic 把评估意识这个容易被忽视的陷阱说透了——做 AI 评估或关注模型真实能力的团队,看完会重新审视自己的测试方法。
做 AI 编程评测的团队终于有了量化噪声的方法论——基础设施差异能让结果偏差 30%,建议所有做 agentic coding 评估的开发者点开,避免被虚假分数误导。
MoBA 解决了长文本大模型计算效率低下的痛点,做 NLP 或大模型应用的开发者可以直接参考其设计思路,提升模型处理超长文本的能力。
Muon 优化器有望替代 AdamW 成为大模型训练的新标配,做预训练或微调的团队值得关注其收敛速度和资源节省效果。
Anthropic 的可解释性团队持续输出硬核研究,做 AI 安全或模型调试的开发者值得跟进——继任头和 SAE 过采样是理解 Transformer 内部机制的关键拼图。
做模型可解释性和安全研究的团队可以关注,这篇笔记提出了一种新的模型差异分析方法,能帮你更精准地定位模型行为变化的原因,值得一读。