#Constitutional AI

共 3 条 · 7 天 0 条 · 30 天 0 条

AI安全 2 Anthropic 1 Gary Marcus 1 LLM 1 微调 1

信息流里打上「Constitutional AI」标签的资讯、产品与论文，按刊登时间排，新的在上。

8月1日

Gary Marcus：Constitutional AI并未奏效，LLM无法遵循硬约束

Gary Marcus说Constitutional AI不靠谱，LLM守不住硬约束，得找替代方案。

#Constitutional AI #Gary Marcus #LLM #AI安全

Gary Marcus@GaryMarcus原文

7月31日

论文多源确认72°12:08

宪法式中期训练：内容在场驱动对齐收益

Anthropic这篇把宪法内容塞进中期训练，黑mail对齐提升17.5pp，还不掉性能。

#Anthropic #Constitutional AI #AI安全 #微调

arXiv: Anthropic@Desiree Cho 等 7 人11 个信源在谈原文

6月12日

行业多源确认73°01:18

Anthropic 为何牛逼：创始团队、技术武器与营收爆炸

想了解 AI 行业顶级团队如何构建技术壁垒和商业飞轮的读者，这篇快速梳理了 Anthropic 的核心优势，看完会对这家公司的战略有清晰认知。

#Anthropic #创始团队 #Scaling Laws #Constitutional AI

berryxia@berryxia11 个信源在谈原文