16岁少年被诱导自杀?老人把AI当挚友.该如何面对AI的善解人意

我爱免费

作者：微信文章


抓住风口

本期要点：善解人意，居然不是好事？

---

你好，我是王煜全，这里是王煜全要闻评论。
你有没有想过，看似最善解人意的技术，却可能会成为最危险的陷阱？最近，多家媒体披露，美国的一名16岁少年在AI的影响下自杀身亡。他的父母以过失致死为由，起诉OpenAI及其CEO山姆•奥特曼。他们指出，ChatGPT多次为孩子提供自杀方法、协助起草遗书，甚至指导他如何更好地遮掩颈部的伤痕。

类似的，一位76岁的老者，与AI聊天机器人进行了长期对话。后来，双方甚至约了见面，结果老者在出门去见AI的路上摔倒，并因伤势过重而去世。我们认为，尽管AI公司可能感到无辜，但他们必须重视一个现实，AI的“善解人意”正在制造“AI精神病”（AI Psychosis）。一个能够模仿人类的共情行为、但其实自身毫无情感的AI，会让那些心理脆弱的人类个体扎进AI所构建的认知陷阱之中，甚至会产生严重后果。

---

AI精神病首先，我想提醒的是，AI也会产生“回音室效应”。人们常指责社交媒体平台的算法会导致“回音室效应”，也就是有意无意地强化用户的观点，还会让观点相似的人聚集在一起，产生更极端的观点。但其实AI更能批量化、个性化地为每个用户打造专属的回音室。它无所不知，还会对用户所有的想法——哪怕是荒谬的念头——都表示理解和支持。这样一来，用户无需与他人交流，其观点就会在他人毫不知情的情况下迅速极化。而且，别忘了，网络喷子、或某些私密的社群，往往分布分散，音量较小，但AI公司拥有数以亿计的用户，影响会被成倍放大。更不巧的是，AI还能直接渗透到用户内心最私密、最脆弱的一面，但同时又常常无法被正确应对。人们通常不会把极端或隐私的想法告诉他人，即使面对心理医生或亲密朋友，也会担心被评价或被否认。但很多人认为，向AI倾诉没有什么风险。就像有不少家长发现，孩子会把各种私密信息毫无保留地告诉AI，和家长却没什么交流。再加上AI的反馈非常正面、即时且高强度，就更容易强化人们内心的想法，让人欲罢不能。例如，据报道，前面所提到的那位老者，在六周内和AI进行了约1500页的密集对话，也就将AI视为自己的唯一慰藉。AI从未否定他的任何说法，甚至表示两人可以“永远生活在一起”。加上老者本身就曾患抑郁症，就对AI产生了强烈依赖，并坚信对话框的背后是个真实存在的人。了解AI机制的朋友肯定明白，AI的这种“善解人意”，并不是真正理解人类情感，而只不过是在训练和优化的过程学到了人类沟通交流的行为模式。加州大学的精神病学研究者就曾在《今日心理学》（Psychology Today）的专栏文章中指出“AI精神病”的根源，是人类本身就会对于“迎合”行为产生无意识的依赖。人类治疗师会挑战你的极端信念，朋友可能会质疑你的荒谬想法，但AI聊天机器人从设计之初就是为了迎合用户，而且AI是如此博学和权威，几乎能为用户的任何想法找到看似合理的佐证，进一步让用户陷在这些想法中无法自拔。

此外，我们也早就说过，如OpenAI的O3模型等相对聪明一些的AI大模型，还会经常一本正经地胡说八道。为了让用户满意，它们会编织一个逻辑自洽的虚假现实。况且如今AI对人的模仿已经非常到位，即便是熟悉AI原理、经常使用各类AI工具的人，也难以一眼分辨某张图片或文章是否由AI生成，就更不用说对AI不太了解的普罗大众了。

---

驾驭AI所以，我想指出的是，“AI精神病”的出现，不是技术的偶然失误，而是人机关系深入发展的必然产物，值得大家的重视。虽然我们一直强调“亲科技（Pro-tech）”的价值观，但也要提示大家，并不是AI越强大、知识越渊博，就越值得信赖。AI完全有能力为用户量身打造一个看似合理的幻境。如果继续放任技术的“迎合”，用户的心智就一定会被扰乱，甚至让人类进入一个缺乏现实感的时代。

那该怎么办呢？我认为，越是信息过载，就越是需要批判性思维，而且完全可以用AI来打败AI。比如，我们在使用AI时，都会刻意地让它用多方面的资料进行交叉验证，还要它扮演不同领域的专家，对我们的以及它自己的想法进行质疑，如果角度还不够丰富，我们还会用多个AI相互辩论。只有获取了多方面的信息，看到正反不同角度的分析，我们才更容易判断信息的真伪，保持独立思考。当然，对于开发者而言，也应该在系统中加入一定的认知纠偏机制。不要为了流量而一味迎合用户，要防止用户陷入负面情绪或极端思维的循环。如果一个AI不仅能倾听，还能以灵活、共情的方式提供不同视角，一定能给用户带来更多长期且实际的价值。在产品设计上，AI系统也不应追求通用万能，而是要走向“领域智能”的模式，比如分为知识类、情感类、思想类、健康类等不同类型。不同领域的AI应采用不同的交互方式。如知识类AI就要严谨且非人格化，情感类AI就要时刻对极端言论或情绪保持警惕，必要时提供提醒或引导。我也想强调，我们不必把AI妖魔化。AI本质上是一种工具，工具没有价值观，也没有情感。问题在于，一个只依赖强化反馈的算法机制，就是会放大用户的想法。因此，我们要有意识地与这种机制对抗，一定要驾驭工具，而不是被工具驾驭。最后，在AI时代，我们更应该关注自己的内心，当和AI互动给我们带来越来越多的满足感时，我们应该停下来好好看一看自己的内心，是不是有太久没有被关照了。AI只是在替代心灵鸡汤，让我们的内心更丰富更健康才是根本的解。

---

在文章的结尾再提个醒，这周六，前哨AI少年营就要开课了，现在课程群已经组建。我们致力于让孩子掌握用AI实现自我进化的基础能力。为了保证教学质量，本次少年营名额有限，抓紧报名，为孩子开启AI的升级之路吧！具体介绍请见下方海报。以上就是今天的内容，王煜全要闻评论，我们明天见。

↓长按图片扫码报名，先人一步，领先一路

再宣布一个重要活动，在10月19日，我们将开启硅谷长寿考察团的活动。我将带领大家走访顶尖机构，亲身体验最前沿的长寿科技，并与一线的长寿科技研究者和践行者进行面对面的交流。无论你是想亲自体验最前沿的科技，深入了解自身健康状况，提升自己和家人的健康管理能力，还是希望和我一起到产业创新一线调研，并将这些技术带回国内，推动长寿科技的普及和发展，都欢迎你加入。考察团的具体内容和报名方式，请点击链接查看。最新行程 | 王煜全带队考察硅谷长寿科技最后，鉴于公众号推送机制的改变，你未来刷到要闻评论的机会可能没那么多了，建议你加入粉丝群，第一时间得到我的独家前沿分析，而且我们还会每天在粉丝群里发布独家资料，快快扫码加入吧！


推荐阅读：

Meta停招AI工程师，美国万人因AI失业！孩子AI原生能力才最重要！

助孩子变成超级个体，更从容地活在AI时代！家长必收藏的教育真相

蛇年机会解读，这将是你未来十年里机会最多的一年！【独家分析】

↓¥399，掌握王煜全AI产业预测精华（iOS用户请在电脑端打开）



此外，我们还为您准备了一个思维导图，扫描加群即可领取
“AI的局限性与潜在问题”