字节 Seed 成立安全与对齐部门，应对 AI 逆向滥用

帖子里列举了多起 AI 滥用案例：有人用 AI 把塞尔达移植到 iOS，有人逆向独立开发者产品，还有报道称一名高中生用 AI 攻击韩国金融机构。为应对这类问题，字节 Seed 计划单独设立安全与对齐部门，是国内首家这么做的前沿 AI 实验室。对齐工作包括制定模型规范、安全评估、对齐训练和防护系统四步，且需随模型更新持续进行。据悉该部门还会关注化学、生物、放射、核等前沿能力风险，并与外部研究机构和第三方评测合作。