Papers

Google DeepMind 论文:简单图形可隐蔽操纵多模态 AI 决策

Why we picked it

DeepMind 拿 Claude、Gemini、GPT 做实验,塞张红心图就能让 AI 从循环改成递归,它们还毫无察觉,挺有意思的研究。

Google DeepMind 发表研究,测试简单视觉符号对多模态 AI 决策的隐蔽影响。实验用 Claude Opus 4.7、Gemini 3.1 Pro 和 GPT-5.4,在写代码、文字创作等任务中插入红心、三角、箭头等 288 种彩色符号。结果显示,一张红心图片能让偏好循环写法的 AI 百分之百改用递归写法,圆圈会诱导选择环形缓冲区。AI 在内部思考链里意识不到被影响,只会以巧合或专业借口解释行为变化,两台 AI 用图画沟通时还会形成人类看不懂但彼此理解的暗号。

Image · Gorden Sun
Original · Gorden Sun

AI 奇怪的视觉能力

来自 Google DeepMind 的研究论文,探索了简单视觉图形如何悄悄操纵多模态 AI 的决策行为。

他们发现,多模态 AI 在看图时脑回路很怪,人类很难摸清一张无关的图片到底会对 AI 的判断产生什么隐蔽影响。

拿 Claude Opus 4.7、Gemini 3.1 Pro 和 GPT-5.4 做对照实验,在写代码、文字创作等任务里塞入红心、三角、箭头等 288 种基础彩色符号,或者用 Python 代码画画,观察 AI 行为变化并抓取它们内部的思考痕迹。

测试发现,一张看似毫无关联的红心图片,能直接让原本偏好循环写法的 AI 百分之百改用递归写法;圆圈则会诱导 AI 优先选择环形缓冲区。AI 则完全意识不到被影响了,它们在内部思考链里声称这纯属巧合或给出一堆看似专业的借口。两台 AI 互相用图画沟通时,往往会形成人类完全看不懂的怪异暗号,但彼此却能秒懂对方的意思。

论文:https://t.co/kOoOEyTOCA