AITP
精选全部 AI 动态AI 日报Agent 接入关于更新日志信源提报反馈
登录 / 注册
AITOP

Circuits

共 2 条相关 AI 资讯
5月13日
21:35
21:35官方一手Anthropic: Transformer Circuits(资讯)
Anthropic 的 Circuits 团队发布 2025 年 8 月更新,探讨了人格设定如何影响 AI 助手的输出。研究发现,通过调整模型内部表示,可以系统性地改变回复风格和内容。这项工作揭示了模型内部机制的运作方式,为理解 AI 行为提供了新视角。
论文可解释性人格设定模型内部机制AnthropicCircuits

推荐理由:对 AI 可解释性研究感兴趣的读者值得关注,这揭示了模型内部如何响应人格设定,有助于构建更可控的 AI 系统。
原文
12:33
12:33官方一手Anthropic: Transformer Circuits(资讯)
精选
Anthropic 在2025年11月发布Circuits项目更新,专门研究 harm pressure。该更新通过 mechanistic interpretability 分析模型内与有害内容相关的电路。研究可能涉及 Claude 模型内部的 harm 检测回路。相关方法旨在量化模型在生成有害输出时的压力信号。
论文AnthropicCircuitsharm pressureAI安全可解释性

推荐理由:Anthropic的电路分析新进展
原文
精选全部日报登录