信任是人工智能时代建立人机交互关系的核心要素,影响着技术接受度和应用广度。2023年7月24日发布的arXiv研究显示,可解释AI对AI辅助代码审查中信任的影响评估已成为研究热点。
AI信任近期进展
MIT Media Lab 主管罗斯沃塞尔:AI 发展需同步建立信任指出,随着AI技术日益复杂,建立透明度与可解释性成为构建信任的关键路径。Anthropic:AI安全需要全球核查机制,光靠信任不够强调,单纯依靠信任无法确保AI安全,需要建立多层次的验证体系。
Lovable CEO Anton Osika:AI 最被低估的护城河是信任认为,在AI产品同质化严重的市场中,用户信任将成为企业最核心的竞争优势。
当前焦点与观察点
Claude开始给生成文本加水印,但AI写作注定失败反映,技术手段如水印虽能增强可追溯性,但无法从根本上解决信任问题。Claude Code 用户:从检查做得对不对,到检查做没做对事表明,随着AI工具普及,用户对信任的关注已从技术准确性转向决策伦理与价值观一致性。