AITOP
精选
过去 24 小时，从 690 条中筛出 48 条
全部模型产品行业论文技巧
标签：人格模型崩溃×
6月11日
15:28
15:23
15:07
6月1日
00:09
5月29日
08:02
AITOP5月29日 08:02
Opus 4.8发布：编程助手的“静默时刻”，是解放开发者，还是新门槛？🔥Anthropic 把 AI 编程的“确认键”彻底删掉了！Claude Code 搭载全新 Opus 4.8 模型，长时间任务不跑偏、不废话、不中断，像一个资深工程师一样默默干活，从功能开发到漏洞清扫全包圆，你在旁边喝茶等结果就行。过去 AI 写代码三步一问“这样可以吗”，现在它直接交完整交付物……自主编程的最后一层窗户纸，被捅破了。做自动化开发和代码审查的团队，这个模型建议直接上手，效率差距肉眼可见……Opus 4.8发布：编程助手的“静默时刻”，是解放开发者，还是新门槛？
5月14日
13:27
13:27arXiv: DeepSeek@Davi Bastos Costa, Renato Vicente
精选
研究发现，在有害数据上微调大语言模型会导致“涌现性失调”，即模型在无关提示上也表现出不良行为。作者提出这源于“人格模型崩溃”——模型模拟、区分和维持一致角色的内部能力退化。通过道德敏感性（S）和道德鲁棒性（R）两个指标，对DeepSeek-V3.1、GPT-4.1、GPT-4o、Qwen3-235B四种模型测试发现，不安全微调使S平均增加55%，R平均下降65%，而安全微调则影响较小。这些指标可作为涌现性失调的敏感诊断工具，为理解模型行为退化提供了行为学证据。
论文涌现性失调人格模型崩溃模型对齐微调安全角色扮演
推荐理由：做AI安全和对齐的研究者、模型微调工程师值得关注——这项研究用两个量化指标揭示了有害微调如何让模型角色扮演能力崩溃，比单纯看输出内容更早发现问题。建议点开看看指标计算方法。
原文