英国医学会：误导性的“AI 医生”会对公共安全构成巨大威胁

这些AI医生散布已被英国癌症研究中心否定的致癌说法，如塑料容器微波加热、使用除臭剂致癌等。英国医学会副主席艾玛·伦斯威克等专家警告，误导性健康内容可能造成严重健康损害甚至死亡。

TikTok下架部分视频，但辩称研究由商业机构完成且不准确。

IT之家 7 月 29 日消息，据英国《卫报》27 日报道，数字营销机构 Hallam 的研究显示，AI 生成的医生形象正在 TikTok 散播存疑的健康建议，热门视频观看量可达数百万次。 英国医学会理事会副主席艾玛 · 伦斯威克医生、英格兰国民医疗服务体系全国医疗主任弗兰基 · 索兹教授、英国皇家全科医师学院主席维多利亚 · 佐齐乌 · 布朗教授、伦敦大学学院健康错误信息研究员亚历克斯 · 鲁阿尼及英格兰健康观察政策与公共事务临时主任威廉 · 佩特等专家警告，网络误导性健康说法 对公共安全构成巨大危害 。 伦斯威克指出，部分 AI 账号正在 兜售医疗谬论，鼓吹所谓的神奇疗法 ，可能造成严重后果，并警告称，TikTok 等平台必须加大力度，遏制不断增加的危险虚假医疗建议。否则， 公众可能赔上健康，甚至失去生命 。 IT之家从报道中获悉，研究人员发现，AI 虚拟医生会散布多种早已被证伪的致癌说法，包括 使用塑料容器微波加热食物、使用除臭剂，以及睡觉时把手机放在身边可能导致癌症 。 英国癌症研究中心逐一否定了上述说法。 TikTok 健康类热门视频中，AI 生成内容占 40%。多数视频来自数量不断增加的深度伪造网红账号，账号外观和身份设定 均模仿真实医生 。搜索“健康建议”等特定词语时， 84% 的视频 被认定为 AI 生成或使用 AI 辅助制作。 Hallam 称，搜索结果中热度最高的 AI 医生和健康类视频 平均获得 250 万次观看 。《卫报》向 TikTok 提交部分视频样本后，TikTok 下架了被点名的视频。 部分账号还推销荒诞的健康偏方， 例如把可口可乐与洋葱混合后用于止痛 ，或者把虚构产品“Hyalethinap Plus Pro Max”包装成抗衰老产品。 一名 AI 虚拟医生声称，他多年来一直向患者推荐“Hyalethinap Plus Pro Max”。该账号声称，产品能够帮助人体“自然产生抗衰老分子”，改善脱发、皮肤变脆弱、指甲易断和关节疼痛等状况。《卫报》在网上没有找到任何证据，能够证明“Hyalethinap Plus Pro Max”真实存在。 索兹在回应研究结果时表示，网络医疗错误信息越来越多，令人担忧。“许多临床医生反映，越来越多患者因纯粹为骗取点击量而编造的虚假建议感到焦虑和困惑。” 布朗表示，研究结果同样令人忧虑，误导性 AI 内容确实可能对人们造成伤害。 Hallam 共分析 1198 段视频，并从“健康建议”“医生建议”等多个搜索词的结果中分别选取热度最高的 50 段视频。研究范围还包括个人理财、教育等可能影响人生选择的一般性建议。 鲁阿尼表示，AI 医生视频大量增加，使公众 以令人恐惧的规模接触虚假医疗内容 ，并补充说 有人正以工业化方式榨取公众的信任 。 去年，Savanta 受患者权益机构英格兰健康观察委托，对英格兰 18 岁及以上的 3575 名男性和 3832 名女性进行调查。调查发现，约五分之一受访者会 从社交媒体获取健康信息 。 佩特表示：“人们如果没有能力分辨可靠信息、商业炒作和错误信息，就可能受到误导，健康也可能因此遭到严重损害。” TikTok 发言人表示：“研究由拥有商业利益的营销机构完成，研究结果不能准确反映 TikTok 的实际情况。我们会删除 AI 生成内容等有害健康错误信息，还与世界卫生组织和英国国家医疗服务体系合作，在应用内提供可靠健康信息，并持续投资 AI 素养资源和内容标注技术。”

This report is categorized under AITOP's "Industry" desk, focusing on Europe's AI governance and technology ecosystem. Key entities and technical topics under continuous tracking include TikTok, AI safety, deepfakes.

Source attribution: curated from IT之家.