04:19OpenAI Blog(博客/媒体)OpenAI发布新报告,揭露与中国关联的影响力行动利用AI技术,针对美国的技术辩论、数据中心叙事、关税政策以及关于ChatGPT的虚假声明进行干预。报告详细描述了这些操作如何通过生成式AI制造虚假信息、放大分裂性内容,并试图影响公众舆论和政策讨论。这是首次有AI公司公开披露此类国家级影响力行动的具体手法,凸显了AI在信息战中的新角色。行业AI安全信息战OpenAI地缘政治虚假信息10 个信源在谈推荐理由:这份报告揭示了AI如何被用于地缘政治信息战,关注AI安全与政策的研究者、科技记者和决策者值得细读,了解最新的威胁形态。原文
09:38arXiv cs.AI@Minjing Shi, Junling Wang, Jingwei Ni, Sankalan Pal Chowdhury, Mrinmaya SachanLFTutor 是一个基于大语言模型的智能辅导系统,旨在帮助普通人学习识别日常对话中的逻辑谬误,从而对抗虚假信息。该系统结合了意图驱动的苏格拉底式提问和批判性论证原则,主动引导学习者反思自己的推理过程。自动评估和人工评估均显示,LFTutor 在教授逻辑谬误方面显著优于未采用这些教学策略的基线 LLM。这项工作展示了将 LLM 与教学支架相结合以培养 AI 时代批判性思维和论证素养的潜力。论文逻辑谬误苏格拉底式提问批判性思维虚假信息LLM推荐理由:想提升自己和团队信息辨别力的读者值得关注——LFTutor 把 LLM 从信息污染源变成了教育工具,用苏格拉底式提问教普通人识别逻辑谬误,比单纯看科普文章更有效。原文
19:12arXiv cs.AI@Islam Eldifrawi, Shengrui Wang, Amine Trabelsi精选CAAFC 是一个新型自动事实核查框架,旨在解决现有 AFC 系统与专业事实核查实践之间的脱节问题。它不仅能检测事实错误和幻觉,还能通过主要信息源提供可操作的纠正理由。该框架支持对声明、对话和对话内容进行核查,并在必要时更新证据和知识库以纳入最新信息。在多个基准数据集上,CAAFC 超越了当前最先进的 AFC 和幻觉检测系统。这项工作对于应对海量 AI 生成内容中的虚假信息具有重要意义。论文自动事实核查幻觉检测CAAFC虚假信息知识库更新推荐理由:CAAFC 解决了现有自动事实核查系统与专业实践脱节的痛点,做内容审核、AI 安全或信息验证的团队可以直接参考其框架设计,提升事实核查的可靠性和可操作性。原文
19:12arXiv cs.AI@ Gunjan, Sidahmed Benabderrahmane, Talal Rahwan精选该研究从计算社会科学视角,构建了包含178万条帖子的配对语料库,覆盖新冠疫情、国会山骚乱、美国大选等9次危机事件。通过比较真实社交媒体话语与LLM生成的合成话语,发现合成话语在情绪、结构、词汇和事件依赖四个维度上表现出“群体级不真实”:情绪更负面且分散度低、结构更规则、词汇更抽象。这种差异在快速演变的去中心化危机中尤为明显,而在制度性事件中较小。研究提出了“漫画差距”指标,认为合成政治话语的主要问题不是语法或流畅度,而是缺乏群体层面的社会真实性。论文LLM政治话语虚假信息计算社会科学群体审计推荐理由:做AI安全、虚假信息检测或计算社会科学的研究者值得关注——这篇论文把LLM生成文本的检测从句子级提升到群体级,提供了可量化的审计框架,建议做内容审核或舆情分析的团队点开看看。原文