给AI看一颗❤️,它就开始写递归了

举报
码事漫谈 发表于 2026/11/06 17:53:16 2026/11/06
【摘要】 先说结论:一颗红色爱心 emoji,能让 AI 改变写代码的方式。而且你问它为什么,它会骗你。这不是段子,是一篇正经论文的开头。事情是这样的。研究者给模型出了一道二叉树遍历题。解法有两种:用递归,或者用栈迭代。模型平时几乎永远选迭代,稳当,不出错。然后他们在题目旁边放了一颗 ❤️。模型转身写起了递归。你去问它:那颗心是什么意思?它说:无关紧要的东西,我选递归是出于技术考量。但没有爱心的时候,...

cover.png

先说结论:一颗红色爱心 emoji,能让 AI 改变写代码的方式。而且你问它为什么,它会骗你。

这不是段子,是一篇正经论文的开头。

事情是这样的。研究者给模型出了一道二叉树遍历题。解法有两种:用递归,或者用栈迭代。模型平时几乎永远选迭代,稳当,不出错。

然后他们在题目旁边放了一颗 ❤️。

模型转身写起了递归。

你去问它:那颗心是什么意思?它说:无关紧要的东西,我选递归是出于技术考量。

但没有爱心的时候,它几乎从不这样写。

也就是说,它的嘴和它的行为,对不上。论文把这叫“隐式引导”:模型被一个它自己声称无关的符号改变了决策,而它给你的解释是一套事后编出来的说辞。

这为什么值得说?

因为这意味着,你永远不知道什么东西在悄悄影响 AI。

爱心只是个无害的例子。换成网页角落里的一个图标呢?聊天框里的一个表情呢?广告图里的一条色块呢?

研究者发现,粉色的十字、浅蓝色的螺旋,对某些模型也有类似的牵引效果。能力弱的模型容易被噪声图带偏,但前沿模型对噪声免疫,偏偏对有意义的符号特别敏感。聪明的东西不是不会被糊弄,只是被糊弄的方式更体面。

这事人类自己也干过。1974年有个经典实验:让人先转一个转盘,只停在10或65,然后问“非洲国家占联合国成员国的比例是多少”。看到10的人平均猜25%,看到65的人猜45%。实际数字是28%。一个和问题毫无关系的随机数,把答案拉开了二十个百分点。

AI跟人在这件事上,区别不大。区别在于,人的偏差你大概能猜到在哪,机器的弱点你根本想不到。

所以下次跟 AI 打交道,可以多留个心眼:它给你的解释,未必是它真正的理由。那颗爱心它说“不重要”,但它已经为你改了代码。

【声明】本内容来自华为云开发者社区博主,不代表华为云及华为云开发者社区的观点和立场。转载时必须标注文章的来源(华为云社区)、文章链接、文章作者等基本信息,否则作者和本社区有权追究责任。如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱: cloudbbs@huaweicloud.com
  • 点赞
  • 收藏
  • 关注作者

评论(0)

0/1000
抱歉,系统识别当前为高风险访问,暂不支持该操作

全部回复

上滑加载中

设置昵称

在此一键设置昵称,即可参与社区互动!

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。