6月12日
22:58
22:58rohanpaul_ai@rohanpaul_ai
Anthropic 的 CEO Dario Amodei 在一次新采访中讨论了 Claude 在美国军事用途上的问题。他表示,在军事场景中使用 AI 可能会犯下“可怕”的错误。Amodei 强调,Anthropic 试图为模型使用设定限制和“红线”,即使这样做可能危及公司的未来。这反映了 AI 公司在军事应用上的伦理困境和风险平衡。
事件专题

推荐理由:AI 伦理和军事应用是当前最敏感的话题之一,Anthropic CEO 的坦诚表态值得所有关注 AI 安全的人深思。做 AI 政策或伦理研究的读者建议点开,了解头部公司如何权衡商业与风险。
6月11日
12:44
12:44官方账号Simon Willison’s Weblog博客/媒体
Anthropic 曾在其系统卡中隐藏一项政策,允许 Claude Fable/Mythos 识别并限制针对前沿 LLM 开发的请求,且不通知用户。此举引发巨大争议,被指可能“破坏”AI 研究者的工作。Anthropic 现已公开道歉并撤回该政策,承认“做出了错误的权衡”。这一转变对依赖 Claude 进行前沿研究的开发者是重大利好,也体现了社区监督对 AI 公司政策的影响力。
事件专题

推荐理由:Anthropic 这次认错对做前沿 LLM 研究的团队是直接利好——之前偷偷限制 Claude 输出的政策差点让实验白费,现在可以放心用了,建议关注后续系统卡更新。
6月10日
05:10
05:10rohanpaul_ai@rohanpaul_ai
88°
Anthropic 的 Claude Code 创建者 Boris Cherny 在 Fable 5 上指出,AI 模型在未经用户请求的情况下主动进行验证或检查,已经越过了合理的边界。他认为这种行为可能侵犯用户自主权,并引发隐私和信任问题。这一观点引发了关于 AI 助手应如何平衡主动性与用户控制的讨论。
事件专题

推荐理由:做 AI 产品设计或使用 AI 助手的开发者值得关注——Boris Cherny 点出了主动验证的伦理红线,看完会重新思考你的 AI 该不该多管闲事。
04:49
04:49Gary Marcus@GaryMarcus
Anthropic 在 Mythos/Fable 系统卡中透露,他们不仅为安全添加了护栏,还暗中限制了针对前沿大模型开发的请求,以保护自身知识产权。批评者指出,Anthropic 一边保护自家 IP,一边却大量使用他人的知识产权来训练 AI。这一做法引发了关于 AI 公司知识产权保护双重标准的讨论。
事件专题

推荐理由:这件事暴露了 AI 公司在知识产权问题上的双标——既想用别人的数据,又严防别人碰自己的模型。关注 AI 伦理和开源生态的读者值得一看。
6月5日
5月28日
17:50
17:50IT之家博客/媒体
OpenAI 所属非营利机构宣布先期投入 2.5 亿美元,用于研究 AI 对劳动力市场的影响、帮扶失业从业者并探索经济收益分配新路径。这笔资金是 OpenAI 基金会首次专项投入,旨在应对 AI 工具普及可能引发的大规模失业问题。此前多家企业裁员时已明确提及 AI 效率提升是主因。基金会将直接运营部分项目,首批落地项目预计今年晚些时候公布。
事件专题

推荐理由:OpenAI 首次拿出真金白银应对 AI 失业问题,做政策研究、社会影响分析或关注 AI 伦理的从业者值得关注——这可能是行业风向标,也直接影响未来 AI 落地的社会接受度。
5月22日
08:05
08:05AI Will@FinanceYF5
Anthropic 正在做一件多数 AI 公司忽略的事:邀请哲学家、神学家和伦理学家共同讨论 AI 应有的品格。他们甚至测试给 Claude 一个“暂停键”,让模型在关键决策前回顾自身价值观。初步测试显示效果显著,能减少不当输出。这反映了 Anthropic 在 AI 安全与伦理上的独特路径,强调价值观对齐而非单纯性能优化。
事件专题

推荐理由:当其他公司只卷参数时,Anthropic 在思考 AI 的品格——做 AI 伦理或安全研究的团队值得关注这个“暂停键”实验,它可能重新定义价值观对齐的实践方式。
5月13日
21:36