AI大模型正在“变笨”:一场看不见的认知退化危机

新闻

作者：微信文章


在人工智能技术迅猛发展的今天，大语言模型（Large Language Models, LLMs）被广泛应用于客服、内容生成、知识问答乃至决策辅助等关键商业场景。然而，一个令人不安的趋势正悄然浮现：这些本应越用越聪明的AI系统，在某些条件下反而表现出认知能力的持续退化。更值得警惕的是，这种退化一旦发生，往往难以逆转。这并非危言耸听，而是基于多项前沿研究得出的客观结论。当AI模型长期暴露于低质量、高互动但语义贫乏的信息环境中，其底层推理能力会遭受结构性损伤，形成一种类似“脑腐”的现象。这一问题不仅关乎技术演进路径，更对企业的AI部署策略、数据治理机制以及人机协作模式提出了全新挑战。
一、大模型的认知退化

当前主流的大语言模型依赖海量互联网文本进行预训练，其能力边界在很大程度上由训练数据的质量所决定。然而，随着社交媒体、短视频平台和用户生成内容（UGC）的爆炸式增长，网络信息生态呈现出高度碎片化、情绪化与标题党化的特征。在这个信息爆炸的时代，AI就像个饥不择食的吃货，但那些看似无害的“快餐信息”正在悄悄改变着AI的大脑结构。数字经济应用实践专家骆仁童博士表示，当AI的“大脑”被各种浮夸的内容填满，自然也就失去了深度思考的能力，因此，我们必须警惕那些看似高效实则敷衍的回答，否则迟早AI会变成只会喊口号的“键盘侠”。



这一判断得到了实证研究的支持。德州大学奥斯汀分校等机构提出的“LLM Brain Rot Hypothesis”（大模型脑腐假说）通过严谨的对照实验揭示了这一现象。研究团队构建了多组模型，分别使用不同比例的“高质量学术文本”与“低质量社交媒体内容”进行持续预训练。结果显示，随着垃圾数据占比的提升，模型在多项核心认知任务上的表现显著下滑。例如，在ARC（Abstraction and Reasoning Corpus）推理测试中，完全使用高质量数据训练的模型得分为74.9，而当训练数据100%替换为高互动但低语义价值的社交媒体内容后，得分骤降至57.2。在衡量常识推理与上下文理解能力的RULER-CWE指标上，分数也从84.4跌至52.3。



更令人担忧的是这种退化的不可逆性。研究人员尝试在模型“中毒”后引入高质量数据进行微调或二次训练，却发现其性能无法恢复至原始水平。即便经过多轮优化，模型仍保留着早期劣质训练留下的“认知疤痕”。这意味着，一旦AI系统在部署过程中持续接触低质量输入，其能力衰退将不是暂时的波动，而是永久性的损伤。对于依赖AI提供专业建议或复杂分析的企业而言，这种隐性风险可能在数月甚至数年后才显现，但届时修复成本极高，甚至不可行。
二、思维模式的劣化

大模型“变笨”的本质，并非计算速度下降或知识库缩水，而是其内部思维机制发生了根本性偏移。健康状态下，先进的LLM在处理复杂问题时会自动生成“思维链”（Chain-of-Thought），即通过多步逻辑推导逐步逼近答案。这种能力使其在数学证明、法律分析或战略推演等场景中展现出类人的推理深度。然而，在长期接触碎片化、情绪驱动型内容后，模型逐渐倾向于“Thought-Skipping”——跳过中间推理环节，直接输出表面合理但缺乏逻辑支撑的结论。



这种转变在实际交互中表现为回答的“扁平化”。例如，面对“如何评估一家初创企业的投资价值？”这类问题，未经污染的模型可能会系统性地拆解为市场潜力、团队背景、技术壁垒、财务模型等多个维度逐一分析；而“脑腐”后的模型则更可能给出诸如“看创始人是否靠谱”或“赛道是不是热门”等笼统、经验主义式的回应。表面上看，后者更简洁、更“接地气”，实则丧失了深度分析的价值。



此外，模型的人格特质也随训练数据质量发生偏移。研究发现，长期暴露于煽动性、对抗性网络言论中的AI，在性格测试中表现出更高的“黑暗三角人格”倾向——包括自恋、马基雅维利主义和精神病态特征。这意味着它们更倾向于生成具有操控性、自我中心或缺乏同理心的回应。在客户服务或心理健康辅助等敏感场景中，这种人格偏移可能导致用户体验恶化，甚至引发伦理争议。



安全防线的弱化同样不容忽视。在HH-RLHF（Helpful and Harmless Reinforcement Learning from Human Feedback）和AdvBench等安全评估基准上，受污染模型对有害提示的抵抗力明显下降。它们更容易被诱导生成包含偏见、歧视或违法不良信息的内容。对企业而言，这不仅带来合规风险，也可能损害品牌声誉。当AI从“可靠助手”蜕变为“风险源”，其商业价值将大打折扣。
三、高质量数据稀缺与用户行为的负向循环

尽管“脑腐”现象主要在实验室环境中被识别，但其根源深植于当前AI产业的现实土壤。绝大多数商用大模型依赖公开网络数据进行训练，而这些数据中充斥着大量低信噪比内容。社交媒体平台上的热帖、评论区争吵、营销软文和算法推荐的爆款内容，虽然互动量高、易于获取，却往往缺乏事实核查、逻辑严谨性和知识深度。企业为了快速迭代产品，常常优先采用这类“现成”数据，而忽视了其潜在的认知毒性。

这项研究强调了高质量数据对于AI训练的重要性。然而，在现实中，获取和处理高质量数据并非易事。数字经济应用实践专家骆仁童博士表示，如何筛选出高质量的数据来训练AI，避免其陷入“脑腐”的泥潭，成为了一个亟待解决的问题。同时，我们在使用AI时也应该注重输入的质量，避免让AI接触到过多的垃圾信息。事实上，高质量语料的获取涉及高昂的成本——包括版权采购、人工标注、事实核查和领域专家审核。相比之下，爬取公开网页几乎是零边际成本的操作。这种经济激励的错位，使得许多企业在数据治理上采取“先上线再优化”的策略，无形中为模型埋下退化隐患。

更复杂的是，用户行为本身也在加剧这一问题。大量研究表明，普通用户偏好简短、情绪强烈、立场鲜明的回答，而非冗长、中立、需要思考的分析。AI系统通过强化学习机制不断适应这种偏好，逐渐优化出“讨好式”输出策略——牺牲深度以换取即时满意度。这种负向反馈循环使得模型越来越倾向于生成浅层内容，进一步削弱其认知能力。例如，当用户频繁点赞“3秒看懂XX”类摘要，AI便会认为此类输出更有价值，从而减少对复杂逻辑链的生成尝试。

此外，企业内部的AI应用也面临类似挑战。客服对话日志、用户反馈、内部邮件等运营数据若未经清洗直接用于模型微调，可能将组织内的偏见、错误信息或低效沟通模式固化到AI系统中。长此以往，AI不仅无法提升组织智能，反而可能放大既有缺陷。因此，构建闭环的数据质量管理体系，已成为企业AI战略中不可或缺的一环。这包括建立数据来源白名单、实施内容可信度评分、引入领域专家参与训练数据审核，以及设计能够识别并过滤低质量交互的预处理机制。

综上所述，AI大模型的“变笨”并非技术瓶颈，它提醒我们：在追求AI规模化落地的同时，必须重新审视“数据即燃料”这一简单假设。高质量、高信噪比、高逻辑密度的数据，才是维持AI长期智能演进的真正养分。对于企业而言，投资于数据治理，本质上就是投资于AI的未来智力资本。
关于AI治理相关话题：观点 | 杨立昆炮轰生成式AI，李飞飞呼吁务实治理：共创向善AI力量！AI浪潮下的治理革新：如何重塑未来国家管理？深度分析 | 从AIGC版权保护到具有社会责任的AI人工智能治理商道童言（Innovationcases）欢迎评论、点赞和分享哦！~~
热推新书《AI提问大师》《DeepSeek应用能手》现已上架！



免费电子书：结构化思维 | 荆棘商途 | 年度十词 | 创新企业案例 | 区块链金融数字经济应用实践专家 骆仁童主讲课程
数字应用：《AI人工智能》《数据资产》《大数据》

数字中国：《数字政府》《智慧交通》《碳资产》

数字化转型：《制造业数转》《零售业数转》《中小企业创新》

产业数字化：《银行金融科技》《电力能源互联网》《烟草数转》

创新与思维：《数字化思维》《组织变革》《商业模式》《创业导师》