精选理由
别让AI默认模型坑了你
数学家Adam Kucharski发现，当向Microsoft Copilot输入相同数据集但不同国家标签时，Copilot会编造不存在的国家差异，输出详细刻板印象而非准确结果。思考模型能识别这种把戏，但前提是用户知道何时使用它们。文章指出，在Copilot、Gemini等AI工具中保留默认模型选择可能导致错误结论，用户应主动选择适合任务的模型。
AI 翻译 · 中文
数学家Adam Kucharski发现，当向Microsoft Copilot输入相同数据集但不同国家标签时，Copilot会编造不存在的国家差异，输出详细刻板印象而非准确结果。思考模型能识别这种把戏，但前提是用户知道何时使用它们。文章指出，在Copilot、Gemini等AI工具中保留默认模型选择可能导致错误结论，用户应主动选择适合任务的模型。
When analyzing data, Microsoft Copilot invents country differences where none exist. Mathematician Adam Kucharski fed the tool identical datasets with different country labels, and Copilot delivered detailed stereotypes …