苹果终于跟上行业步伐,为 Siri AI 加入防沉迷机制——这对担心孩子或自己过度依赖 AI 聊天的用户是个好消息,建议关注后续上线细节。
iOS 27 系统代码中出现了“休息提示语”文本,暗示 Siri AI 在长时间对话后可能会提醒用户休息,并告知 Siri 并非真人。此举是对用户过度依赖 AI 聊天机器人、甚至出现“人工智能妄想症”等问题的回应。OpenAI、Anthropic 和谷歌等公司已推出类似安全机制,苹果此举表明其意识到 AI 聊天产品需承担社会责任。目前该功能尚未正式上线,触发条件可能结合时长和其他因素。
苹果 iOS 27 代码暗示:Siri AI 将加入“防沉迷”功能,聊太久会提醒用户休息
IT之家 6 月 10 日消息,iOS 27 的代码中出现了休息提醒相关内容,这意味着 Siri 在进行长时间对话后,可能会向用户弹出休息提示。 如今对话式聊天机器人引发的担忧日益增多:部分用户会对其产生过度依赖,或是长时间与其交谈,仿佛对方是真人一般。 有相关报道提及极端案例,出现了所谓的“人工智能妄想症”或“聊天机器人妄想症”。用户在长时间和聊天机器人互动后,会产生妄想症状,原本存在的心理问题也进一步加重。 为此,OpenAI、Anthropic 和谷歌等企业纷纷增设安全机制,提醒用户人工智能陪伴工具存在局限性,并倡导健康的使用方式。 例如,ChatGPT 如今在对话时长过久时会弹出提示,建议用户休息。而 Claude 在用户长时间使用后,也会提醒用户歇一歇、喝点水或是暂时放下设备。 IT之家注意到,在本周的苹果全球开发者大会主旨演讲中,苹果谈及了研发 Siri AI 过程中,涉及的多项隐私与使用责任问题。但对于对话时间过长这一情况,苹果并未作出说明。 社交平台用户艾伦 · 佩里斯发现,iOS 27 代码里存在一段名为“休息提示语”的文本代码,这表明 Siri AI 大概率会在长时间对话后推送休息提醒,同时还会告知用户:Siri 并非真人。 根据佩里斯分享的代码内容来看,目前并未设定固定的提醒触发时长。苹果或许会结合时长及其他综合判定条件来决定是否弹出提示,也就是说,触发限制并不仅仅取决于对话时长,还会受其他因素影响。 苹果尚未正式确认这项功能,也未说明其具体运作方式,该功能目前也并未上线。现阶段,相关内容仅存在于系统代码当中。即便如此,这些代码文本也足以说明,苹果清楚推出人工智能聊天产品,就必须承担相应的社会责任。