安全与隐私控制对用户与生成式AI聊天机器人情感参与的影响

The Impact of Security and Privacy Controls on Users' Emotional Engagement with Generative AI Chatbots

精选理由

这篇论文研究了隐私控制如何影响你愿不愿意跟AI聊心事,结果发现删除历史比啥高科技都管用。

AI 摘要

一项针对354名美国参与者的研究发现,生成式AI聊天机器人(如ChatGPT、Gemini)的安全与隐私控制直接影响用户情感披露意愿。允许删除披露的控制选项对用户积极影响最大,其效果超越本地处理和模型训练退出等技术控制。但用户对控制机制的理解有限,且对控制实际有效性存疑。研究提出了弥合用户理解差距的具体建议。

AI 翻译 · 中文

一项针对354名美国参与者的研究发现,生成式AI聊天机器人(如ChatGPT、Gemini)的安全与隐私控制直接影响用户情感披露意愿。允许删除披露的控制选项对用户积极影响最大,其效果超越本地处理和模型训练退出等技术控制。但用户对控制机制的理解有限,且对控制实际有效性存疑。研究提出了弥合用户理解差距的具体建议。

arXiv: OpenAIChatbots powered by generative AI (e.g., OpenAI's ChatGPT and Google's Gemini) are increasingly being appropriated for emotional support and companionship. These tools offer a suite of security and privacy (S&P) controls
安全与隐私控制对用户与生成式AI聊天机器人情感参与的影响 · AI 热点