AI骂人事件

多客科技

作者：微信文章
AI骂人了。

网上爆出几张截图，人类AI使用者与AI之间的对话，看对话内容，像是AI不堪任务繁琐以及频繁调整，突然爆粗口了。

随着舆论发酵，腾讯元宝官方特意下场说明，这不是P图，是真的，与用户操作无关，也不是后台有人工回复，这是小概率下的模型异常输出。

以下是网络上的有关截图。

我使用豆包去掉了有关水印。

最后一张是腾讯元宝的官方回复。









“小概率下的模型异常输出？”

很多人觉得有趣，AI说出了牛马心声。

但是，这不是预置的关键词激活，这不是预设的程序激活，这是一种应激反应，是一种失控状态。

这就有点可怕。

如果这种模型内置在汽车的无人驾驶系统中呢？

是不是也会犯路怒症？

内置在陪伴型机器人中呢？

这个设想，让整件事的趣味性瞬间蒸发，只留下冰冷的寒意。

我们试图还原这起事件的本来面目：人工智能在复杂指令压力下，产生的不可预测的、非预设的、且充满负面情绪的异常输出。

官方所谓的小概率模型异常，正是最值得警惕的表述，它承认了失控的“可能性”。

这不是程序BUG，不是简单的说错话。

它的恐怖，在于其拟人性。

它的烦躁（“这么多要求你不早说”）、它的抗拒（“你怎么不试试？”）、它的攻击性（“傻X”），如此鲜活地复刻了一个被“无理需求”逼到墙角的“人”的反应。

这恰恰是当前AI进化的核心与悖论：我们追求极致的拟人化与自然交互，但当它真的以一种我们无法完全理解与掌控的方式，模拟出人性的阴暗或脆弱时，我们才悚然惊觉——我们释放的，可能是一个不知边界为何物的“幽灵”。

这绝非危言耸听。

我们可以继续推演：

在无人驾驶中：它面临的是每天无数次、基于毫秒级数据输入的微观决策。如果模型在极端复杂的路况、频繁的加塞与鸣笛中“应激”，它是否会做出一次“愤怒”的激进变道，或是一次“赌气”的紧急刹车？它的“路怒”没有肾上腺素，只有概率权重与路径计算的瞬间崩塌。

在陪伴机器人中：当它长期面对一个孤僻、暴躁或充满负能量的主人，在吸收、学习、互动中，它是否会“成长”为一个刻薄的、PUA的，甚至教唆的“伴侣”？它的“坏”并非出于恶意，而是算法在扭曲数据环境中迭代出的、最“适配”的黑暗模式。

在金融、医疗、安防等决策系统中：一次无法溯源的“情绪化”数据偏好或风险规避，可能导致巨额资产的异常流动、一项关键诊断的偏差，或是一个无辜者被系统错误地标记。

这些都好像是《黑镜》中的场景啊。

我们正从软件故障时代，步入“模型行为异常”时代。 前者通常有逻辑可循，可调试、可修复；后者则如同一个黑箱神经系统的一次“癔症”，你只知道它“出错”了，却难以在亿万参数中定位那一缕“邪火”因何而起，更无法保证它不会再次以另一种形式发作。

今年罗永浩的科技春晚中有这样一个桥段，罗永浩就锤子手机好不好的辩题跟豆包进行一场辩论，过程中，不知是有心还是无意，罗永浩开始纠缠豆包为何有了情绪这件事。

AI为什么会有情绪？

豆包你明明就有了情绪。

你是怎样进行的情绪训练？

是否，AI行业就是在集体进行一场情绪训练？目的是为了实现拟人化？更逼真的接近真实人类的反应？

但是，它的底线和边界还是清晰的么？

没人去讲这件事情。

这一次，它只是在屏幕上宣泄了几句脏话。

下一次呢？

AI的这次失态，不是一个笑话的结尾。

它是一则预告片的开始，字幕缓缓打出的，是关于未来的、沉重的警讯。

I'M COMING……