美国议员团队用AI起草法案,误将Claude生成内容黏贴进记录

尴尬:美国制定 AI 监管规则的议员团队,自己却用 AI 工具起草法案

精选理由

国会自己管AI却用AI写法案,还翻车了,看看他们怎么应对这个尴尬。

AI 摘要

据《华盛顿邮报》报道,ChatGPT、Claude和Grok已成为美国国会山常用工具。佛罗里达州共和党众议员安娜·保利娜·卢纳的办公室误将Claude生成的一段混乱内容直接复制进《国防授权法案》公开记录。卢纳表示不认为工作人员使用AI起草法案有异常,她个人更偏好Grok。目前国会几乎没有针对AI使用的有效监管,现有规定零散宽松,也无工作人员因此受处分。

原文 · IT之家

尴尬:美国制定 AI 监管规则的议员团队,自己却用 AI 工具起草法案

IT之家 8 月 17 日消息,律师因引用 AI 编造的案例而被抓包,大型咨询公司用 AI 生成逻辑混乱的报告,教师甚至开始用 AI 修改学生可能同样借助 AI 完成的论文……AI 聊天机器人已经进入几乎所有职业领域,美国国会也未能例外,负责制定 AI 监管规则的美国国会议员和工作人员同样大量使用存在缺陷的 AI 工具。 据《华盛顿邮报》报道,OpenAI 的 ChatGPT、Anthropic 的 Claude 以及 xAI 的 Grok 正迅速成为国会山的常用工具,其中一例来自佛罗里达州共和党众议员安娜 · 保利娜 · 卢纳的办公室: 工作人员误把 Claude 生成的一段内容直接复制粘贴进了《国防授权法案》的公开记录 。 结果,文件里留下了一段明显混乱的文字:“增加示例具体因素。与 H.R . 100(第 118 届国会)相同。上午 11:25????Claude 回答:” IT之家附上述“乱码”原文,以供对应: increasing example specific factors. Identical to H.R . 100 (118th Congress).11:25 AM????Claude responded: 不过,卢纳并不认为工作人员在起草国防法案时使用 AI 有什么异常 。“很多工作人员都会用 ChatGPT、Claude 和 Grok。我个人更喜欢 Grok,但我的工作人员更喜欢 Claude。我不会因此批评他。让 AI 做摘要并不违法。” 《华盛顿邮报》指出,国会山目前 几乎没有针对 AI 使用的有效监管 。现有规定不仅零散而且宽松,也没有工作人员因为使用 AI 违反这些规定而遭到正式纪律处分。 不少众议员已经承认会借助聊天机器人开展研究,风险更大的地方在于,大量国会助理基本可以在缺乏监督的情况下自行使用 AI。 部分工作人员因此开始给自己设定规则。路易斯安那州民主党众议员克利奥 · 菲尔兹的助理悉尼 · 布鲁姆对《华盛顿邮报》称, 她决定绝不用 AI 工具从零开始撰写文件 。她在大学期间接触过一项类似规定,并由此形成了这种做法。然而,这类规则则是美国国会本身并不具备的。