AI可怕的不只是取代人的工作,造成的技术断层可能会引发系统性灾难

多客科技

作者：微信文章
---这是麦径的第55篇原创作品。---


今天早上，我在十字路口又碰到一台萝卜快跑的自动驾驶汽车。它每天准时出现在路口，在我送孩子上学的时候，它正在路口慢悠悠地转弯。

每天都很准时，应该是规划好的路线与时间。

路口很拥挤，人车混杂的情况经常发生，前面有人有电动车它就不走，经常塞在路口，周围喇叭声此起彼伏，它倒像是个局外人，安静地淹没在早高峰的浪潮里。

现在可能区域性还在试跑阶段，车上从未看到有人。

小孩开始看到时很惊讶，觉得很神奇，也很奇怪，怎么会没有人？觉得有点恐怖呢。

      萝卜快跑一年前刚投放在武汉的时候，激起了不小的舆论漩涡，很多反对的人，认为它替代了部分赖以生存的司机的工作，很不道德。

但是资本是不考虑道德的，只考虑法律，甚至故意擦边。

后来，就很少见到宣传了，不再张扬，一切都在悄悄进行试跑和运行。

关于萝卜快跑的事情，一年前，我用AI做了一个视频，那时候自动生成视频已经做得很好了，到今天这一年里，AI更加突飞猛进，专业性在很多方面已经超越人工。AI 在视频创作、数据分析、甚至技术研发等领域，早已实现了对人工的超越。


据网络信息，这一年间萝卜快跑运营规模与订单量大幅增长，2025 年二季度完成超 220万次出行服务，同比上涨 148%，且武汉成为其首个实现单车收入覆盖直接运营成本的城市。

同时它进一步拓展运营版图，除巩固北上广深等核心城市的服务外，2024 年 11 月获香港首批自动驾驶车辆先导牌照并完成右舵车型道路测试；

截至 2025 年 11 月，其服务已落地全球 22 座城市，每周全无人订单数突破 25 万单，还计划 2025 年 12 月在瑞士启动车队测试。

AI 在前进，无人驾驶车在爆炸式扩张，这一切似乎不可阻挡。

人工智能的发展不会停止，只会越来越快，替代一部分人的工作已经发生，部分人的反对也不可能阻挡技术的车轮滚滚向前。最后AI会超越人类多方面的技能，逻辑与技能都比人类要完美得多。

人工智能的发展，如果一直被资本引领，利弊兼有。如果一直只想到替换人工去赚钱的方向发展，那么科技向善就变成了一句空话，继续发展，大部分的岗位只会被淘汰，因为性价比太低了，甚至人都不配活在这个科技冰冷的世界上。

现在看来，AI会导致很多公司里的技术断层，变成了哑铃型结构。

老的技术工人经过那么多年的打磨，技术没话说的，但却没有机会带新人，因为很多岗位的工作可以用AI来代替，公司不再需要招刚毕业的年轻人，很多技术可以通过AI来收集和积累，只要有几个把控技术方向的师傅就行了。

所以新人找不到工作，老人也没有机会再带新人。

技术断层，以后这种现象会越来越严重。这种断层不是均匀分布，而是呈现 "两极分化"：少数掌握 AI 驾驭能力的精英效率飙升，而多数人面临 "能力空心化" 危机而被解雇。

可以想象一下，以后会出现很多人会用AI写代码，但是却看不懂代码，不懂前因后果，AI写的代码BUG也看不懂，而经过实战而掌握技术精髓的老工程师正在渐渐老去，或者被优化掉。

例如我要设计个新产品，有设计指引，有技术积累库，有AI自动生成的作图工具，甚至检查设计合理性的系统都完美无瑕。于是老的工程师只对新人点拨了几句，新人只需要走过评审，做好实验，做好试产，量产就期待着完美进行了，这个时候，客户发现产品就是用不了。

技术的系统性危险加剧，一切被AI洗过的技术，看似符合逻辑完美无缺，实质会有重大缺陷能躲过所有的检查，会爆发更大的系统性灾难。

就像上周的那场大火，每个环节似乎都没有错，一切流程都是在系统中走过来的，但是抗火灾能力却是这样脆弱。

那个地球毁灭的猜想，以后可能真的会发生。

AI带来的系统性风险，并非源于某个代码错误或单一故障，而是根植于其运行的核心逻辑之中。

其一，黑箱中的“完美逻辑”可能携带隐藏的偏见与盲区。 AI的决策依赖其训练数据。如果数据本身隐含了现实世界的不平等或历史偏差，AI便会将其固化、甚至放大，且过程难以追溯。更关键的是，它的“完美”是统计学意义上的，面对训练数据之外的全新场景（比如极端的、从未见过的交通组合），它可能做出符合逻辑但极其危险的判断，而工程师不再像以前那样去试错多次，也就识别不到风险，甚至连识别的技能都日渐丧失。

其二，高度的互联与自动化，会将单个故障瞬间传导为全局崩溃。 未来的智能系统绝非孤岛。自动驾驶网络、电网调度、金融交易等核心设施将深度耦合。当一个基于同一AI模型的车队，因为某个未被识别的共同信号（如特定的天气光照组合）而集体“困惑”停摆时，拥堵的将不止是道路，更是整个城市的血液循环，或许是某次战争中的哑火。这种由高度同质化AI带来的“系统性共振”风险，传统分散化的人类决策中很少出现。

其三，“理解能力”的断层让系统失去了最终的纠错屏障。 当AI接管了从代码编写到故障诊断的多数环节，新工程师将不可避免地被推向“操作员”而非“掌控者”的角色。如果一代工程师主要经验是与AI协作，却未曾深究底层原理，那么整个社会对复杂技术的集体认知将出现空心化。一旦AI陷入它自己创造的、逻辑自洽却背离现实的困境，可能将没有足够多具备深层直觉的人类专家能及时拉下刹车闸。

这最终导向一个悖论：我们越追求绝对理性、高效和去人工化的系统，这个系统可能变得越发脆弱和不可解释。 风险不会以机器人叛变的想象方式呈现，更可能表现为一场无人背锅的“完美事故”：所有环节都符合AI的设计逻辑，审计日志无可指摘，但灾难依然发生了。

因此，面对AI，我们真正的挑战或许不是技术本身，而是如何在狂热的发展速度中，刻意保留人类的监督角色、培育深度的技术理解、并设计允许系统“失败”的容错机制，而非彻底崩溃的缓冲机制。技术的车轮滚滚向前，但驾驭它的，不应仅仅是资本与算法，还必须包含人类的敬畏、智慧与责任。

回头看看，车流缓缓移动，那辆萝卜快跑终于转过弯，悄无声息地汇入远方。我路过绿灯，带小孩走进知识浸润着的校园。未来已来，它不止出现在新闻里，也停在了我们每个寻常的早晨。

只是，你迟早要习惯AI的存在，并接受它的不完美。

-----麦穗丰盈，蓬蒿满径------
麦径，用干净而纯粹的文字记录人间精彩。

------------------------

作者简介：

麦径，70后，西工大校友，产品设计工程师，寄居深圳。随性写点杂文，跟你探讨产品的温度与生活的深度。

关注我，阅读不迷路。

------麦穗丰盈，蓬蒿满径--------