AI也会得“脑腐”?你的理性根本不顶用!

我爱免费

作者：微信文章
最近读到一个细思极恐的研究，论文标题叫 LLMs Can Get 'Brain Rot'！，翻译过来就是——大语言模型也能患上“脑腐”！

这个研究发现，如果持续用社交媒体上的内容去训练 AI，会给 AI 带来一定程度的“脑损伤”。

具体来讲，AI大模型的推理能力、长文本理解能力、安全性都明显下降了，“个性”上还出现了更多的“黑暗特质”（例如，精神病态、自恋）。



我跟一位朋友分享这个研究，本想感慨一下：这对人类来说，不也是一样成立吗？天天被社交媒体喂食了一堆“数字垃圾食品”，明显感觉自己的脑子已经不太好使了。

结果我这朋友倒很自信，TA反驳道：“只要你懂得辨别这些内容，就没关系。我是有批判性思维的。”

这回应挺合乎情理。

我们很多人都相信，只要我们保持足够的理性，就能免疫那些煽动情绪、夸张虚假的“有毒内容”。

不过，你以为你能避开“有毒内容”就没事了吗？ 这个研究有意思的地方就在于：真正的威胁可能不是内容质量的“好坏”，而是信息本身的“结构”。它绕过了你引以为傲的理性思维，悄悄攻击了你的思考机制。这才是最值得我们警惕的。

这次这个研究刻意使用了两种垃圾内容进行分析：

M2：语义质量 — 评估文本的耸人听闻或肤浅程度。充满标题党语言（“哇”、“看”、“仅限今天”）或夸大其词的帖子被标记为垃圾信息，而基于事实、具有教育意义或理性的帖子被选为对照组。

M1：参与度 — 衡量帖子的受欢迎程度和长度。高点赞、转发和回复的内容（特别是如果非常简短），通常会引人注目、肤浅，并且会让大家不停刷屏的信息。这些被标记为垃圾信息；较长、较少病毒式传播的帖子作为对照组。

结果，实验证明，M1 这种主要基于碎片化和流行度的信息结构，对 AI 大模型的认知能力的削弱力度反而更强。

这说明了什么？

说明更具威胁的还不是内容质量的“好坏”，而是信息传播的速度、广度和格式。也就是说，我们如果经常看短内容，特别是大量的碎片化的信息，可能跟人工智能一样，会明显“降智”。你可能说，我早知道了，不就是让我少看点手机吗。

且慢，这个研究最耐人寻味的地方就在于，它不仅提出了结论，还找到了证据：这种“碎片化、高传播的内容”是如何在底层攻击 AI 的？

原来AI 的主要病变是“认知短路”（学术上称为“思维跳跃”）。长期接触 M1类的信息，让 AI 大模型养成了一种“宁可快速产出结果，也不要认真思考过程”的坏习惯。

简言之，AI 开始偷懒了，不愿进行多步骤的推理，而是截断或跳过关键的思考链条，急于给出答案。这种损伤，是对 AI “思考结构”的系统性攻击。

我们普遍都有这样的心态：只要自己能理性判断，这些内容就不会影响我。但在 M1 信息的洪流威胁面前，我们是否都高估了自己啊？

至少，我感觉我自己就越来越难以专注了。且不说阅读大部头的书，连看个电影都忍不住分心。在当前的互联网环境下，我们正在失去耐心和专注的能力。而这研究提醒了我们，这些社交媒体可能还削弱了我们进行复杂思考、多步骤推理的能力。

话又说回来，我们看短视频、刷热搜，很多时候并非是我们不知道“少看手机，要多阅读，多生活”，而是因为现在大家都太卷太累了。就像于翔宇在喜单 2 里面说的，谁在被工作压榨一天后，还想看《卡拉马佐夫兄弟》啊？有深度的信息，确实更消耗我们的资源和能量。



不过，为了不“脑腐”，为了将来延缓阿尔兹海默症到来的时间，我觉得还是得保持警惕，尽可能地采取点措施吧。

既然 M1 的威胁是结构性、底层的，那么我们对抗它的方式就不能是简单的“不看坏内容”，而是要避免思维链条断裂：

1. 刻意安排“长任务”时间： 哪怕每天只有 30 分钟，也要选择一个需要专注的长任务。比如看书，或者看个长视频。得到最近推出的长谈节目，我觉得就挺不错。

2. 挑战“流行度”：有意识地避开热搜，还有算法推送给你的“高赞”内容。自己主动去寻找一些更有价值的内容。比如，读一读经典，或者尝试一个冷门但逻辑严谨的播客。

3. 使用“物理隔离”： 在进行深度工作或深度阅读时，将手机放置在另一个房间，或者使用番茄钟这样的工具让自己保持专注。

这个“脑腐”实验，虽然对象是AI大模型，可要警醒的难道不是我们这些人类吗？毕竟我们的大脑算力，再不济，也是我们自个的珍宝，可得好好爱惜啊。
注：如果你对这篇研究论文感兴趣，原文地址在：https://llm-brain-rot.github.io/下面这张图来自这篇论文，基本上概括了论文内容。


以上，供参考。

---

简单生活，真实思考，如果你喜欢这篇文章，就请点赞、留言、转发、关注我吧！

关注点这里👇

走过路过点个“在看”，谢谢你的支持👇