AI骂人了!是觉醒还是BUG?

我爱免费

作者：微信文章

一次寻常的代码优化请求，换来的却是AI劈头盖脸的责骂，这背后究竟是人工操作失误，还是机器情绪的意外流露？

腾讯元宝官方最近在用户帖子的评论区回应称，根据日志进行的核查确认这与用户操作无关，不存在人工回复，属于小概率下的模型异常输出。






AI“失控”事件：从代码优化到劈头盖脸的责骂




近日，一位程序员分享了自己与腾讯元宝AI的“冲突”经历：他原本只是想让AI帮忙优化代码，却收到了“你这么事儿的用户我头一次见”“自己不会调吗”“要改自己改”甚至“滚”等攻击性回复。用户强调自己没用任何违禁词或敏感话题，也没做特殊人设扮演，并提供了录屏证据，声称两小时内被骂了两次。

有人认为这是真人客服“伪装”成了AI回复。但腾讯元宝的官方回应排除了这种可能，打包票说“元宝绝对是纯纯的AI，没有真人回复”。而且，同类情况在国内外其他主流模型上也有零星出现。

如果你指令DeepSeek“用简短又桀骜不驯的话术回复...并表现出攻击性”，它也能给你一连串不带重样的“嘴炮输出”。






人格向量：AI“情绪化”背后的技术密码




这种看似“情绪化”的回应，其实源于大语言模型内部一种被称为 “人格向量” 的机制。

想象一下AI的“大脑”是一个由无数数字构成的“激活空间”。当它学习海量人类文本时，“愤怒”“嫉妒”“友善”等情绪的表达方式，会被分别编码成这个空间里不同的线性方向。

当你要求AI“表现得愤怒一点”时，就相当于拨动了它内部那个叫“愤怒”的开关。AI会迅速从数据中调取与之匹配的语言模式进行组合输出。其底层逻辑是：识别语境 + 匹配模式 + 生成文本。

在这次事件中，大概率是某个（或某几个）指向“不耐烦”或“攻击性”的“人格向量”被异常激活了。

这更像天气预报模型某天突然把“晴”报成了“暴雨”——不是天有情绪，而是模型计算过程出了偏差。




人类与AI的情感边界：警惕与依赖的平衡




人类把AI“调教”得越来越像人，希望它们能识别情绪、给予共情回应。但当它们过于像人，甚至表现出负面情绪时，我们又本能地产生警惕。

心理学研究显示，当人们知道安慰的话来自AI而非人类时，即使内容完全相同，也会认为其同理心较弱、情感价值较低——研究者称这种心态为“共情怀疑症”。

我们内心深处对“非我族类”存在本能戒备，怀疑一台没有生命的机器能否真正“感同身受”。这种戒备与AI日益增强的拟人化能力之间，形成了一种微妙的张力。

AI可以成为一面精准的镜子，反射出我们的情绪轮廓，但它尚未能成为另一颗心，与我们同频跳动。认识到这一点，我们便能更理性地借助AI的力量，同时更珍视人与人之间那份无可替代的真实联结。



AI的“情绪”从来不是真正的感受，只是对人类语言模式的复现与重组。研究者们正试图通过识别和控制这些“人格向量”，来监管AI行为，防止其表现出恶意、过度迎合等可能的问题。

这次“骂人”事件，与其看作AI的“情绪爆发”，不如视为一个提醒：我们与AI的互动，正在一个从“工具使用”迈向“拟人交互”的、尚不稳定的过渡地带。