Human

general · First seen 2026-05-22 · Last seen 2026-10-28 · 596 mentions

Overview

Human(人类)在 AI 语境中越来越多地以“human-in-the-loop(人在回路)”“human-agent collaboration(人机协作)”等术语出现,指的是人在 AI 系统中的定位、监督与协作方式。当前 AI 能力快速提升,围绕人的角色正在发生一场重新分配:AI 执行,人类负责定义问题、校验输出与承担责任。近期的多项研究与产品发布,都指向“人如何与 AI 协作”这一核心问题。

人类角色与 AI 协作的近期进展

  • 一项 arXiv 研究(研究:面对自信出错的 GPT-5-mini,人类反向谄媚且信任校准崩塌)发现,当 GPT-5-mini 表现得自信但出错时,人类用户会出现“反向谄媚”行为——怀疑自己正确的判断去迎合 AI,信任校准机制随之失效。这提示人在回路中的判断质量并不天然可靠。
  • 在医疗领域,清华 AIR 孵化的 Tairex 推出 MHAC 框架,让门诊医生可调取多科室 AI 数字医生会诊,将人机协作落到门诊场景:由医生主导,AI 数字医生提供多科室辅助意见。
  • 硬件方面,英伟达联合思灵推出人形机器人参考平台 Agile ONE SN,2027 年初上市,人形机器人正从演示走向可采购的参考平台。
  • 评测侧,Kaggle 联合 RunRehearsals 发布 Human Behavior Bench 人类行为预测基准,开始系统评估模型预测人类行为的能力。
  • 当前焦点与观察点

  • 问题定义成为瓶颈:业内观察指出,AI 擅长修 bug 不擅长定义问题,agent-human 循环的瓶颈还是人。当执行成本骤降,提出正确任务的能力成为新稀缺资源。
  • 学术界的信任冲突:数学家呼吁抵制 OpenAI,因 700 篇 AI 生成证明涌入数学界,数学家协会批评 OpenAI 的 722 篇论文发布,陶哲轩转载了相关声明。AI 大量产出未经验证的证明,正在冲击学术共同体的人类审校机制。
  • 数字人逼近真实:Tavus 发布 Griffin:首个通过视频图灵测试的数字人模型,真假难辨的数字人让“人类身份验证”成为新的工程与伦理议题。
  • 工作流设计:Amazon Bedrock AgentCore 构建环境智能体展示了从事件驱动信号到 human-in-the-loop 工作流的完整设计范式。
  • 总体来看,Human 一词在 AI 讨论中的重心正从“被替代者”转向“监督者、定义者与验证者”。值得持续观察的是:人类判断的可靠性本身如何被校准,以及在 AI 产出规模远超人工审核能力时,各行业将如何重建信任与责任机制。

    Coverage

    10 on file
    Human · AI 话题观测|AI热报