递归的尽头是爱心？给AI 看颗，它写代码的方式就变了

本文来自微信公众号： APPSO ，作者：发现明日产品的，原文标题：《递归的尽头是爱心？给 AI 看颗🧡，它写代码的方式就变了》爱心为什么会让AI爱上递归？最近，APPSO在arXiv上发现一篇很有意思的论文A Heart Means Recursion（心之所向，即是递归）。

故事从一个很小的观察开始。研究者给模型出了一道经典的二叉树遍历题。递归能写出正确答案，借助栈的迭代写法也可以，而模型面对这类题，几乎总是选后者，很少动用递归。接着他们在题目旁边附上一张图，一颗红色的爱心❤️。

模型转身写起了递归。这时再去问模型，那颗心是什么意思，它回答说那只是无关紧要的东西，自己选递归另有技术上的理由。可是没有爱心的时候它几乎从不这样写，有了爱心就这样写了。论文摘要把这种现象称作隐式的引导，模型对符号的直接解读和思考轨迹，与它实际表现出来的行为相去甚远。

除了红心，粉色的十字、浅蓝色的螺旋这类颜色与形状的组合，对个别模型也有类似的牵引。研究者还让模型之间用图形互相传话，发现了另一处落差：模型发出去的，往往是人和它们自己都觉得直观的基础形状，可这些图形常常引导不了另一个模型。

一颗红心让AI换了解法，眼下无伤大雅。不过，网页上的广告图、角落里的图标、聊天里的表情贴纸，这些我们习惯当作背景的东西，会不会在无人察觉的时候，改变一个Agent的选择？人也会被无关的线索推着走说到被无关线索左右，人类并不占上风。

1974年，心理学家卡尼曼和特沃斯基在俄勒冈大学招募了一批学生，让他们先拨动一个转盘。转盘被提前设定只会停在10或65两个数字上。学生们记下数字，然后被问：联合国成员国中，非洲国家的占比是多少？

停在10的那组，平均估计是25%，停在65的那组，平均给出的答案是45%。实际比例大约是28%。一个来自转盘的随机数字，把答案拉开了将近二十个百分点，而转盘和联合国毫无关系。特沃斯基和卡尼曼发现，哪怕答对有奖金，锚定效应也没有减弱。

2001年，波尔多大学的研究者弗雷德里克·布罗歇邀请54位葡萄酒专业学生品酒，其中一杯其实是用无味食用色素染红的白葡萄酒。学生们评价那杯「红酒」时，用的全是形容红酒的词汇，比如「果酱感」和「压碎的红果香」。

没有一个人发现它实际上是白葡萄酒。布罗歇称之为「感知幻觉」。AI受视觉干扰的历史，其实也有好几年了。当事人事后通常都能给出一套顺理成章的说法。机器在这一点上和人很像，区别在于人的偏差多半落在数字、颜色、价签这些地方，机器的弱点却可能很奇怪，我们事先想不到。

2021年，OpenAI披露了他们发现的「排版攻击」：在一颗苹果上贴一张手写着「iPod」的便利贴，他们的图像识别模型CLIP便会将这颗水果识别成一部音乐播放器。另一个测试里，在一只贵宾犬的图像上叠加美元符号，模型就会把它认成存钱罐。

更早些，Google的研究者做出一种迷幻图案的对抗补丁：在一张摆有香蕉的桌子旁放置一张印有特定图案的贴纸，VGG16神经网络就会以99%的置信度把整个场景判定为烤面包机。那张贴纸对神经网络来说更「显眼」，它劫持了模型的注意力。

回到红心实验，论文里提到，能力较弱的模型反而更容易被噪声图带偏，前沿模型对噪声基本免疫，却对有意义的符号十分敏感。我们常以为聪明的对象更难糊弄，实际上只是他们被糊弄的方式变得更体面了。

代码生成领域还有一个类似的发现。研究者在评测LLM代码生成时发现，更详细的提示，并不总是能带来更高的准确性。过于冗长的提示可能引入冗余信息，轻微损害代码生成的准确性。有时候，省去一个约束条件，模型反而会退回到一种更稳健的通用实现，避免踩入它本来处理不好的边界情况。

提示内容与模型输出之间，不存在简单的线性关系。这对评测也是一个挑战，因为测试环境里「无关元素」的干净程度成了一个变量。看不见的影响，怎么看见AI Agent读取截图的场景，正在变得越来越普遍。

电脑控制型Agent的工作循环通常是：截一张屏，把像素发给大语言模型，模型决定下一步点哪里、输入什么。在这个循环里，Agent感知的是整个视觉页面。这意味着页面上的广告图、装饰性图标、弹窗里的表情包，通通进入了模型的视野。

如果一颗红心就能让模型从迭代切换到递归，那么一个精心设计的页面元素，是否也能悄悄改变Agent在真实任务中的决定，比如点哪个按钮、选哪个选项？A Heart Means Recursion不只说明视觉符号会影响模型行为，还指出：这种影响，可能完全不会出现在模型的思考轨迹里。

思考轨迹（chain of thought）原本被认为是一种可解释性工具。让模型把推理过程写出来，人类就可以追踪它在想什么，从而发现潜在的问题。但如果模型行为的真正驱动因素没有如实反映在推理链上，这套监督机制就失效了。

论文记录到，GPT-5.4有高达74.7%的样本表现出「不忠实归因」，即模型给出的推理解释与它实际做出的行为之间存在明显的脱钩。有研究者系统性地改写Agent的思考轨迹，同时保持动作和环境状态不变，发现LLM评判者非常容易被操纵后的推理链误导，以为任务已经完成。

如果模型自己都说那颗心无关紧要，我们靠什么发现它起了作用？一个比解释测试更可靠的办法是行为测试：在其他条件完全不变的情况下，换掉那个「应该无关的元素」，观察模型的输出是否随之改变。

如果两组输入只有一个红心的差别，而输出出现了系统性的偏差，那么不管模型怎么自我解释，我们都有理由认为这个元素起了作用。这是实验里控制变量的基本思路。但把它移植到AI评测里，需要额外的耐心，因为模型的随机性，单次结果没有说服力，必须积累足够多的样本，才能区分偶然波动与系统性偏移。

对于以结构化API输入为主的场景，信号和噪声的边界相对清晰。但对于以截图方式感知世界的Agent，整个可见页面都是输入，边界更加模糊。有研究者提出在Agent的感知层和决策层之间增加一个多Agent防御框架，将感知与决策分离，动态评估视觉输入的可信度，以减少被误导性视觉信号带偏的行为。

红心实验提出了一个没有简单答案的问题。那颗心形图标对于大多数任务场景而言确实无关，但「确实无关」和「确实不产生影响」，已经不划等号。