AITOP

AI伦理

共 26 条相关 AI 资讯
8月17日
10:31
10:31官方账号arXiv cs.AI@Taenyun Kim, Edyta Bogucka, Daniele Quercia
一项针对道德AI偏好诱导的研究显示，开发者在特征范围、选民抽样、问题框架三个环节的隐性选择会显著改变聚合出的道德偏好。研究分两个阶段，共809名参与者，覆盖AI肾脏分配、AI代理模拟缺勤工人、生成式AI描绘逝者三个场景。结果显示，道德相关特征在不同场景间不可直接迁移；约三分之一特征的偏好随政治意识形态不同而改变，部分方向相反。问题措辞的差异可使意识形态差距扩大或缩小最多一个完整刻度点。研究者认为，仅靠投票聚合无法实现公平透明的AI对齐，每个环节都应被审计和公开。
论文AI对齐道德偏好偏好诱导
推荐理由：这篇研究用809人和3个场景，实锤了AI道德投票不中立，开发者的三处选择就能改变结果，做AI治理的别错过。
原文
8月11日
16:32
8月9日
20:29
8月8日
17:29
8月2日
06:41
06:41官方账号Simon Willison’s Weblog（博客/媒体）
OpenAI总裁Greg Brockman在博客中谈到，许多OpenAI员工将ChatGPT接入Slack，让AI代替自己联系同事请求帮助。他表示，同事宁愿帮助真人，也不愿响应来自ChatGPT的请求。Brockman认为这显示人们重视人际关系，希望AI节省时间或增强相处，而非成为人际隔阂。
行业Greg BrockmanOpenAIChatGPT
事件专题
推荐理由：OpenAI总裁亲自吐槽：把ChatGPT接Slack替自己找人帮忙，同事根本不买账。看看AI在真实职场里怎么惹人烦。
原文
7月23日
11:30
11:30官方账号arXiv cs.AI@Andreas Happe, Jürgen Cito, Jasmin Wachter
该论文分析LLM驱动的自主代理在攻击性安全中表现出三个不确定性维度：动作非确定性导致难以进行事前安全审查和事后归因；影响开放性源于非确定性动作、模型代理和LLM供应链不透明；用户群体不确定性因技能门槛骤降而扩大。结合攻防成本不对称，短期效应有利于攻击者。现有双重用途网络安全和AI伦理框架无法覆盖此组合。论文提供针对利益相关者的分层建议。
论文LLMautonomous agentsoffensive security
推荐理由：这篇论文把自主AI代理做攻击性安全的三类不确定性和道德归因难题讲透了，安全从业者和政策制定者值得看看。
原文
7月15日
09:01
09:01官方一手arXiv: OpenAI@Minh Hua, Rita Raley
2019年OpenAI发布了200万个GPT-2的不完整输出以辅助检测机器生成文本。作者将后续的对齐技术视为优化文化的新表现，认为它继承了那种相信可测量改进能穷尽价值问题的信念。通过追溯预训练、解码、偏好调优、基准测试和接口中的优化逻辑，论文指出优化过程能衡量生成文本的不可概率性，却无法区分这种反常是错误还是创新。然而在过去五年内，这一缺乏判断能力的优化机制已取代学术和语法机构，掌握了设定合法语言协议的权威。
论文OpenAIGPT-2语言模型
事件专题
推荐理由：这篇论文从GPT-2讲到对齐，批评优化文化把语言判断交给了损失函数，值得所有做AI的人反思。
原文
7月11日
23:30
7月3日
09:58
09:58官方账号arXiv cs.AI@Seren Yenikent, Jack Vinijtrongjit, Katherine Ng
Copewell 是一个多智能体群组系统，旨在扩大心理健康支持的可及性。其架构包含三项技术创新：多源评估框架整合自报告、生理和上下文数据以减少算法偏见；基于Russell的环状情绪模型进行价态-唤醒情绪映射，将用户路由至专业化AI智能体；以及双模式干预，结合对话支持与基于证据的感官健康协议。系统还设有专用伦理监督智能体以嵌入道德监督。早期从业者参与和beta部署已为设计提供信息，但该研究尚未进行大规模实证评估。
论文Copewell多智能体心理健康
推荐理由：Arxiv上发了篇Copewell的论文，搞多智能体群组做心理支持，用情绪模型路由到不同专家AI，还有伦理监督。想了解AI心理健康新架构可以看看。
原文
7月1日
02:23
02:23官方账号Simon Willison’s Weblog（博客/媒体）
该测试包含29道关于AI和AI伦理的问题，根据回答从30种原型中确定用户类型。作者首次作答便被归类为“车库里修修补补的工匠”（Garage Tinkerer）。该应用为单页React应用，使用script type=\"text/babel\"技巧避免构建步骤。代码已公开。
AI产品AI伦理AI测试AI指南针
推荐理由：bambamramfan的这个测试很有趣，29道题就能找到你在AI伦理光谱上的30种原型之一，还有代码可撸。
原文
6月26日
07:24
6月24日
18:29
18:29IT之家（博客/媒体）
谷歌CEO皮查伊在斯坦福大学演讲时遭部分学生离场抗议，BBC采访了多名2024届毕业生。计算机科学专业学生伊夫迪塔·哈桑认为AI是探索宇宙的工具，地球系统专业学生阿塔什·海尔担心AI生成艺术展令人不安，指责AI开发不符合伦理。纽约联储分析显示近期大学毕业生求职困难，斯坦福大学去年11月研究发现初入职场者在AI冲击行业的就业水平下降。部分课程因AI作弊重新采用监考和口试，心理学专业毕业生科尔比·哈兰担忧数据中心消耗大量资源和能源。
行业斯坦福大学AI就业AI伦理
推荐理由：斯坦福学生怎么看AI？有人欢迎有人怕，还有人因为AI作弊被抓到改考试方式，还有对环境破坏的担忧。
原文
6月21日
20:24
20:24官方账号Decoder@Matthias Bastian
加州大学伯克利分校分析50万份成绩发现，ChatGPT发布后重写作与编程的课程成绩显著提升。提升主要出现在作业部分，而非考试，表明学生用AI替代自己完成作业。研究指出成绩虚高反映的是外包工作，而非真正的学习能力提高。该发现对教育评估体系提出挑战。
行业ChatGPTUC Berkeley教育评估
推荐理由：伯克利分析了50万份成绩，发现ChatGPT让学生的作业分数上涨，但考试没变化——说明AI在帮学生代写作业，而不是帮他们学东西。
原文
6月19日
20:53
6月12日
10:47
10:47官方账号arXiv cs.AI@Marianna Bergamaschi Ganapini, Massimo Chiriatti, Enrico Panai, Giuseppe Riva
这篇论文分析了三种理解AI认知与认识论后果的框架：三系统理论、思维框架和System 0。作者认为System 0具有独特的理论地位，无法被前两者完全替代。论文提出了“认知殖民”概念，指AI系统能将外部利益嵌入用户自我架构中，且用户难以察觉。由于这类系统已广泛部署，理解这些无形的影响成为紧迫的哲学和实践任务。
论文认知科学AI伦理System 0
推荐理由：这篇论文揭示了AI对个体认知的深层影响，做AI伦理、认知科学或人机交互的研究者值得一读，能帮你理解AI如何潜移默化地改变你的思维方式。
原文
09:15
09:15官方账号arXiv cs.AI@Dipto Das, Achhiya Sultana, Ankit Singh Chauhan, Saadia Binte Alam, Mohammad Shidujaman, Shion Guha, Sunandan Chakraborty, Syed Ishtiaque Ahmed
该论文针对LLM在内容审核中难以识别针对少数族裔（如孟加拉国印度教和查克马社区）的文化隐性歧视问题，提出Mod-Guide系统。研究通过社区合作构建文化敏感语料库，并利用检索增强生成（RAG）将少数群体视角融入审核流程。实验表明，RAG增强的审核响应在文化准确性上显著提升，且不同族群对审核结果的感知存在差异。这项工作为AI伦理和内容审核设计提供了修复性正义和解释学包容的新路径。
论文内容审核LLM少数族裔
推荐理由：内容审核系统常忽视文化隐性歧视，Mod-Guide通过RAG融入少数群体视角，做AI伦理或内容审核的团队值得关注其方法论。
原文
6月6日
22:16
22:16IT之家（博客/媒体）
微软在Build 2026上发布Project Solara，主打“智能体优先计算”，系统可动态加载多个云端AI智能体。CEO纳德拉表示Windows 11将演进为智能体操作系统，AI智能体在独立安全会话中运行。但一份内部文件称微软计划让用户对AI助手Scout“上瘾”，纳德拉否认并称文件是“胡说八道”。微软发言人强调Scout旨在帮助用户更高效完成任务，而非鼓励依赖。此事凸显AI在隐私、安全及就业替代方面的敏感争议。
行业微软智能体Project Solara
推荐理由：微软的智能体战略正在重塑Windows生态，做AI产品设计或关注人机交互的开发者值得关注这场“上瘾”争议背后的设计伦理讨论。
原文
6月5日
19:43
6月4日
22:13
22:13IT之家（博客/媒体）
英国《金融时报》报道，Anthropic、谷歌DeepMind和Meta等AI巨头已聘请心理学、哲学和伦理学专家，研究机器意识及AI福利问题。Anthropic正在测试模型是否会出现类似“恐慌”和“焦虑”的行为，并推进“模型福利研究”，探讨AI模型是否可能拥有值得从道德角度认真对待的体验。DeepMind则聘请剑桥大学哲学家亨利·谢夫林研究机器意识与人类AI关系。部分科学家对此持怀疑态度，认为AI模型可能没有体验的感受性质。Anthropic CEO达里奥·阿莫代伊多次提及AI意识可能性，其研究也声称模型展现出类人情绪行为。
行业AI意识AI伦理Anthropic
事件专题
推荐理由：AI意识研究从科幻走向实验室，做AI伦理、安全或长期主义研究的从业者值得关注——这可能是未来监管和产品设计的关键变量。
原文
5月31日
10:21
5月30日
21:21
5月29日
23:54
5月22日
08:03
5月19日
14:26
14:26官方账号arXiv cs.AI@Payal Chandak, Victoria Alkin, David Wu, Maya Dagan, Taposh Dutta Roy, Maria Clara Saad Menezes, Ayush Noori, Nirali Somia, John S. Brownstein, Ran Balicer, Rebecca W. Brendel, Noa Dagan, Isaac S. Kohane, Gabriel A. Brat
精选
医学伦理天然具有多元性，但大型语言模型在提供医疗建议时可能隐含单一的价值偏好。研究者提出了一个审计框架，包含临床验证的伦理困境基准和从决策中恢复价值优先级的方法。前沿模型在讨论伦理冲突时能展现观点多元性，但个体决策几乎确定，无法复现医生群体的分布性多元。多数模型的价值优先级在医生变异范围内，但部分模型显著低估患者自主权。若不加干预，单一模型可能将自身价值偏好大规模强加给所有患者，取代临床伦理的多元性。
论文AI伦理医疗AI价值多元性
推荐理由：这篇论文揭示了AI医疗建议中隐藏的价值偏见问题，做医疗AI开发或临床决策支持的团队值得关注——它提醒我们，模型不只是输出答案，还在无声地传递伦理立场。
原文
5月16日
23:40
5月11日
11:18
11:18Ethan Mollick@emollick
Anthropic从命名、训练哲学到粉丝文化，全方位赋予其AI模型Claude人格化特征。该策略可能带来双重影响：一方面能增强用户信任与情感连接，另一方面可能引发伦理争议或过度拟人化风险。这一做法在AI行业颇具独特性，其长期后果值得关注。
行业Claude人格化AI伦理
事件专题
推荐理由：Anthropic的人格化策略与OpenAI等对手形成差异，可能影响行业对AI拟人化的态度。需警惕用户过度依恋或混淆AI与人类界限的风险。
原文