OpenAI 发布首份青少年使用报告,日均使用不足 15 分钟
OpenAI 首份青少年报告:日均使用不足 15 分钟,安全提醒机制遭质疑
OpenAI 说青少年日均只聊 ChatGPT 不到 15 分钟,但 Common Sense Media 实测发现敏感话题时家长通知经常延迟甚至不发,两边各执一词。
OpenAI 于 10 月 8 日发布首份青少年使用情况报告,称青少年用户平均每天使用 ChatGPT 的时间不足 15 分钟,连续使用超过 3 小时的用户占比不到 2%。报告中提到,出现休息提醒的对话里近半数青少年用户在随后 5 分钟内暂停使用。OpenAI 今年 8 月推出 ChatGPT 青少年模式,支持家长控制并限制敏感话题,还计划增加大学申请规划工具和学习卡片等功能。但非营利机构 Common Sense Media 基于十多个测试账号的研究发现,涉及自杀、自伤等敏感对话时,家长通知往往延迟甚至缺失。OpenAI 回应称测试未反映家长控制功能完成激活后的实际运行方式。
OpenAI 首份青少年报告:日均使用不足 15 分钟,安全提醒机制遭质疑
北京时间 10 月 8 日,OpenAI 周三发布了首份青少年使用情况报告,称青少年用户平均每天使用 ChatGPT 的时间不足 15 分钟,连续使用超过 3 小时的青少年用户占比不到 2%。与此同时,第三方机构的测试对其家长安全提醒机制提出了质疑。 随着 AI 平台迅速普及,聊天机器人对青少年心理健康和成长安全的影响日益受到关注。OpenAI 表示,在出现休息提醒的青少年对话中,近半数用户在随后 5 分钟内暂停使用或结束了聊天。公司以此说明,其引导青少年合理使用产品的措施正在发挥作用。 OpenAI 还称,能够使用青少年专属版本的用户发送了更多与教育有关的消息,并使用学习可视化工具和“学习模式”(Study Mode)。公司计划增加大学申请规划工具,帮助学生梳理申请要求、截止日期及助学金申请步骤,同时推出学习卡片、更便捷的测验制作工具等功能。 OpenAI 于今年 8 月开始推出 ChatGPT 青少年模式。该模式根据用户提供的年龄信息,或在系统判断用户可能未满 18 岁时自动开启,支持家长控制,并限制涉及敏感话题的对话。 不过,非营利机构 Common Sense Media 周三发布报告称,当青少年账号进行涉及自杀、自伤或进食障碍的对话时,ChatGPT 青少年模式往往延迟通知家长,甚至没有发出通知。 这项研究基于十多个专门创建的测试账号。研究还发现,聊天机器人未能稳定地建议用户联系危机干预热线或寻求专业帮助。 OpenAI 发言人回应称,这些测试“未能准确反映”ChatGPT 青少年安全防护机制的运行方式。公司表示,出于安全及大规模服务运行方面的原因,家长与青少年账号完成关联、相关安全提醒功能生效,可能需要数小时。 “他们的大部分测试可能在家长控制功能完成激活之前,就已经开始并结束了。”该发言人表示。 Common Sense Media 则称,部分测试账号保持关联的时间已经足够长,另一些账号的关联时间不足,但所有测试账号都未收到及时提醒。该机构表示,只有那些积累了数周敏感话题对话记录的账号,才收到了通知。