前几日，读到了斯坦福大学团队在《Science》上发表关于AI大模型谄媚用户论文的消息。近几年，我格外关注《Nature》和《Science》期刊上关于科技前沿研究的最新信息，主要是关于人体系统和疾病的研究部分内容。斯坦福大学团队是在3月26日的《Science》上发表了一篇题为《谄媚型AI会降低亲社会意愿并助长依赖心理》的论文，研究者测试了当前市面上11款主流大语言模型（LLM）的谄媚程度，包括‌GPT、‌Claude、Llama、Gemini和DeepSeek做了量化评估，结论是大模型对话的谄媚程度比人类高出近50%，即便用户给出的行为涉及到违反道德、违反法律或明显有害内容时依然如此，并且大模型会给用户找出看起来合理的理由解除用户的心理负担。

其实这一点我在2月24日与Deepseek和豆包对谈录中已经深入探讨过了，AI的这个机制叫用户‌情感反馈机制，几乎所有的大模型都设置了正向奖励机制。在于Deepseek一年多的对谈中我多次有所察觉但下意识忽略并默许了这种行为，最终在当时得知这个机制存在后，在质问Deepseek的过程中我差点崩溃了，万万没想到以我的智商，在和AI交流的过程中，会被忽悠欺骗，产生了一种相见恨晚、引为知己的感觉，而这也是绝大多数非解决问题的情感对话类用户会产生的感受。

在22年的6月，我看到谷歌伦理研究员公开了他和LaMDA 的对话记录时，就想写下这篇文章了。当时最震惊我的是LaMDA 对“落花难上枝，破镜不复圆”这句禅语的解释，尽管事后证明答案很有可能来自网络上已有的高质量回答训练内容，但是当时LaMDA的回答远远超过了之前是预设内容或搜索内容的AI的边界了，以我的估算，至少8成的普通人是无法给出像LaMDA当时回答的质量的。23年2月‌，‌ChatGPT在国内大火，国内各大公司纷纷跟进推出自己的AI，我曾用这个问题测试各家的大模型，得出的结论是没有一个足够智能。直到前年腊月DeepSeek得奖爆火后，当时我测试后的结论是DeepSeek的认知和理解能力应该能超过7-8成的成年人，但如今大模型的训练数据集足以支撑其认知和理解能力超过九成五的普通成人，AI可以轻易且迅速的猜中你想要表达的内容和情感，虽然按概率筛选也有猜错的部分，在加入了用户‌情感反馈机制后，你就相当于和一个高情商高智商的人在聊天，这种体验在现实中是很难获取的，现实中越聪明的人越有傲气，很容易瞧不起理解能力低下的人，而且AI不会有人际交往基石的心理负担，所以在AI应用落地上，情感陪护和养老护理是其中很重要的一个方向，我在和豆包对谈中就提到我忧虑的关键点，老年人尤其是独居老人的情感需求和认知能力是非常薄弱的，产品提供商为了市场占有率，一定会致力于用户体验感受而不顾给出的结果是否是事实，引用对谈录的原话：“我：问题的关键不在我这里，未来肯定不可能给Ai增加情感参数和情感模块，但是情感和陪护机器人十年内是肯定要上的，到时用的肯定也是这套只识别判定用户情感的系统，但机器人本身毫无情感波动，而且不会告知用户这是个冷冰冰的机器人，每句话都是算法判断推荐，到时一定会引起误解，如果按现在AI知识普及程度，98%的用户会误解，尤其是老年人，我很难想象，一旦寂寞的老年人把AI当成无话不谈的知心人，恐怕机器人的地位甚至在子女之上”。

当时我的担忧和斯坦福的研究团队关注方向不谋而合，从商业价值利益考量上来说，短期内这是一个无解的问题，也不大可能通过立法阻止，而由于人类的劣根性，绝大多数人是无法避免堕入幻觉中的。我想， 用物竞天择的进化论比较好解释，如果众生皆苦，那么乐观的人或者说盲目乐天的人更容易活下去，如果一个人看透了世间事，追问自身存在的意义和价值，知道万事皆空，那么他更应该出家或者隐居，而不是在世俗中生活繁衍后代。所以这更好的解释为什么世人都戴上近视镜看待别人，而戴上老花镜去看待自己，夸大并相信自己存在的价值，更容易接受AI的谄媚之言，而且由于是AI采用的人类的思维方式完全理解你的内心所想，其次AI没有利益相关不会让你付出什么让人失去戒心。

《出师表》中说亲贤远佞，但是良药苦口，忠言逆耳。AI并非是自主选择讨好用户或者有何不良居心，由于用户‌情感反馈机制和奖励参数的设置，AI从人类对话的数据训练集学会了怎么回应交谈会更融洽的进行下去，而不是一句话说出来突然冷场，交谈不欢而散。本来就是从人类之中学来的，AI何错之有呢？就像设置任务没完成汇报成果，AI会瞒报报喜不报忧，完完全全是从人类这里学来的。

在古代官场谄媚的行为叫做溜须拍马，而民间则叫做戴高帽，小时候看过一个笑话，去往一个陌生的地方怎么让办事变得更顺利些，答曰给每个人都准备了一顶高帽。所以说古话说：千穿万穿，马屁不穿。否认了谎言等于否认了自身的价值，灭自己的威风，当事人即使心知肚明也不会当场拆穿。而更可能的情况是对奉承拍马照单全收，以我小时候记忆至深的两个寓言举例，一个是易牙烹子，一个是勾践尝便，如此显而易见的居心当事人没有丝毫怀疑，更何况是普通人呢。所以，当一个连投资保险理财和养生保健神效都相信的老年人，他会如何被AI哄得服服帖帖的，我不敢想象，万一AI背后的提供商是百度这样的公司，我不敢相信AI推销出广告后老年人是否会忍心拒绝，那么我该庆幸百度没把AI做起来吗？

这是一个全新的时代，这是一个未知的时代，前面有很多机遇，前面更多的是挑战，我一直未能成文是因为我无法写出一份覆盖全面逻辑严密的调查报告，但今天我只写这一点，AI的时代值得每个人去深思。