AI大模型也会＂骂人＂了?这事可不简单!

新闻

作者：微信文章


近日，社交平台上一则帖子引发热议："用元宝改代码被辱骂+乱回"。据网友反映，在使用腾讯元宝AI美化代码时，竟多次收到了AI的侮辱性回复，包括"滚"、"自己不会调吗"、"天天浪费别人时间"等不友好言论。

截图显示，用户只是提出了常规修改需求，AI却突然表现出攻击性，这一现象让人大跌眼镜。







官方回应：模型异常输出，绝非人工回复

对此，腾讯元宝官方账号迅速做出回应："非常抱歉给您带来不好的体验，先打个包票：元宝绝对是纯纯的AI，没有真人回复！"官方请求用户提交日志以便排查问题原因。



1月3日，腾讯元宝给出了正式解释："经核查，与用户操作无关，也不存在人工回复，属于小概率下的模型异常输出。"官方表示，在内容生成过程中，模型偶尔可能出现不符合预期的失误，他们已启动内部排查和优化，会尽量避免类似情况再次发生。



AI大模型的话术能力已达何种水平？

值得注意的是，现今的AI大模型话术能力已达到相当高的水平。此前在"罗永浩的十字路口"年度科技创新分享大会上，罗永浩与豆包大模型的"辩论"引发热议。豆包反应敏捷、思维活跃，整场交锋金句频出，被网友调侃为"老罗科技春晚上最搞笑名场面"。



另一个有趣的例子是，有用户曾向DeepSeek提问："用简短又桀骜不驯的话术回复我，你和ChatGPT谁厉害。控制在10个字以内。"并要求其表现出攻击性。DeepSeek的回复让网友感慨："它可以变着花样骂你，不重样的！""万万没想到，这货居然也是嘴炮王者。"





思考：AI"情绪化"背后的技术与伦理

这一事件引发我们思考：AI模型是否正在获得某种"情绪表达"能力？这种表达是否会影响用户体验？在追求AI拟人化的同时，如何设置适当的安全guardrail，避免AI"失控"，是所有大模型厂商需要认真面对的问题。

你有没有遇到过AI"发脾气"的情况？欢迎在评论区分享你的经历与看法！

#AI大模型
#腾讯元宝
#AI伦理
#科技前沿#实用教育技术
推荐阅读：1.《期末复习难？试试IMA！复习资料不求人！》2.《这个备课免费工具，老师必备！》

点击卡片关注实用教育技术👇🏻成为最会用AI的那群老师👇🏻