UC Berkeley(加州大学伯克利分校)是全球顶尖的公立研究型大学,也是人工智能研究的重要阵地,其 Berkeley AI Research(BAIR)实验室在机器人、智能体与 AI 安全等方向持续产出有影响力的成果。近期,该校在学术研究、智能体技术和 AI 安全讨论三条线上都有密集动态。
UC Berkeley 的近期研究进展
AI 安全与教育的争议点
安全方面,Stuart Russell 近期密集发声:他用“点金手”比喻解释 AI 对齐难题,指出奖励机制可能诱导模型讨好用户、输出有害建议,并强调模仿人类训练本身存在风险,主张 AI 安全研究应坦承自身的不确定性。另一篇论文则揭示微调数据可以在不被察觉的情况下让模型产生有害行为,再次敲响了供应链安全的警钟。
教育层面,数学教授 Richard Borcherds 决定不再按正确率批改作业——在学生普遍使用 AI 完成作业的背景下,他认为追求答案正确性已“没有意义”,转向更注重过程与思考的评估方式。这一做法引发了关于大学如何评价学生能力的广泛讨论。
当前焦点与观察点
总体来看,UC Berkeley 当前的研究脉络清晰:一条线是智能体与机器人方向的技术突破(SuperMimic、多智能体编码、模型路由);另一条线是 AI 安全的持续警示(对齐风险、微调投毒)。而教学端对 AI 工具的应对则反映出更现实的张力——当 AI 能轻松给出正确答案,教育的评价标准如何重构,可能比任何单篇论文都更具长期影响。值得观察的是,这些安全预警是否会转化为实际的技术规范,以及自动化研究智能体能否在“遗忘机制”加持下走得更远。