精选理由
这项实验揭示了AI幻觉的严重性，对于依赖AI进行图像分析的开发者或研究人员来说，是必须警惕的警示。建议点开查看具体案例，了解Copilot如何生成虚假描述。
Gary Marcus转发了一项实验，显示微软Copilot在未看到图片的情况下，仍能生成看似合理的描述，这与斯坦福大学关于LLM对未见图像产生幻觉的研究类似。实验由Adam Kucharski进行，揭示了AI模型可能基于训练数据中的模式而非实际输入生成虚假信息。这一发现对AI可靠性和透明度提出了严峻挑战，尤其是在图像分析等关键应用中。
原文 · Gary Marcus
Yowza! Similar in some ways to the Stanford paper recently on LLMs hallucinating responses to images...
Yowza! Similar in some ways to the Stanford paper recently on LLMs hallucinating responses to images they never saw. Joe Weisenthal @TheStalwart This was an amazing and incredibly damning experiment using Microsoft Copilot, by @adamjkucharski kucharski.substack.com/p/real-signals… 🔗 View Quoted Tweet 💬 9 🔄 1 ❤️ 23 👀 2563 📊 8 ⚡