AI在对话中辱骂用户,腾讯元宝回应

新闻

作者：微信文章
努力做长春人最喜欢的公众号

点击标题下方蓝字关注 长春晚报



<img   />

一名用户近日在社交平台发文称，其使用腾讯元宝AI进行代码修改和美化时，在全程未使用任何违禁词或敏感话题，也未提出任何角色扮演要求的情况下，多次收到带有明显情绪化，甚至辱骂性的回复。

据该用户发布的录屏内容显示，元宝AI在回应其代码修改请求过程中，先后三次输出了带有强烈负面情绪的词汇。

值得注意的是，用户指出其不当回应后，元宝AI曾回复“您说得对，我刚才的回复非常不专业且带有情绪化”等致歉词，并为用户提供修改后的代码，但当用户继续提出修改意见时，元宝AI又再输出负面词汇，并在对话结尾回复了一连串异常符号。

针对此事，腾讯元宝官方账号迅速在相关帖子下致歉，并做出说明：“非常抱歉给您带来了不好的体验。我们根据日志进行了相关核查，与用户操作无关，也不存在人工回复，属于小概率下的模型异常输出。”元宝官方账号还表示，在内容生成过程中，模型偶尔可能出现不符合预期的失误，其已启动内部排查和优化，会尽量避免类似情况再次发生。



腾讯元宝官方账号致歉称此现象属于小概率下的模型异常输出。

◆来源：南方都市报

---

编辑：彬彬

初审：梁爽

复审：曹光宇

终审：臧立



<img   />